CWN(CHANGE WITH NEWS) - 해외 사이버 보안 연구원 ＂챗GPT, 보안 결함 이용해 코드 작성＂

오픈AI(OpenAI)가 최근 출시한 인공지능(AI) 기반 챗봇 ‘챗GPT(ChatGPT)’가 최근 IT 분야에서 화두가 되었다. 지난주 사용자와 AI 간 자연스러운 대화와 실수 인정, 텍스트 생성 작업, AI 윤리 문제 개선 등을 강조하면서 화제가 되었다. 그러나 얼마 지나지 않아 챗GPT의 문제점이 발견되기도 했다. 최근에는 사이버 보안계에서도 챗GPT에 주목했다.

해외 사이버 보안 전문 매체 사이버스쿱은 최근, 챗GPT가 컴퓨터 보안에 영향을 미칠 수 있는 결과를 제시한 사실을 보도했다.

해당 문제를 최초로 발견한 뉴욕대학교 컴퓨터 과학 및 공학부 교수인 브렌던 도란-개빗(Brendan Dolan-Gavitt) 교수는 해커 세력이 악성코드를 이용한 사이버 공격에 챗GPT를 악용할 가능성을 우려해, 챗GPT에 멀웨어와 함께 코드 작성 작업을 지시했다.

이후 도란-개빗 교수는 놀라운 결과를 확인했다. 그는 트위터를 통해 챗GPT가 버퍼 오버플로 취약점(buffer overflow vulnerability)을 포함한 코드를 정확하게 식별했다. 그러나 그와 동시에 버퍼 오버플로 결함을 포함한 코드를 작성했다.

도란-개빗 교수가 트위터로 공개한 테스트 결과는 챗GPT가 기본 수준의 AI 챗봇이며, 대규모 언어 모델의 코드 작성 요청에 대한 답변 능력을 완벽하게 신뢰할 수 없음을 시사한다. 또, 챗GPT는 현재 완벽한 코드 작성 능력과는 거리가 멀다. 기존 AI 기반 코드 작성 툴과 마찬가지로 AI에 의존한 코드 작성 작업의 한계를 보여주기도 한다.

매체는 도란-개빗 교수의 챗GPT 시험 사용 사례로 사이버 보안 관점에서 대규모 언어 모델이 제기하는 위험성이 양날의 검과 같다고 설명했다. 여러 AI 기반 코드 작성 툴 개발 시 의도한 바와 같이 인간 개발자의 작업을 보조하는 역할을 할 수도 있다. 하지만 반대로 악성코드를 생성하고, 오류가 발생하기 쉽고 취약한 코드를 삽입할 위험성도 존재한다. 실제로 챗GPT와 같은 모델을 채택한 AI 코드 작상 프로그램인 코덱스(Codex) 개발 연구팀은 “AI 코드 작성 툴이 사이버 범죄를 돕는 수단으로 전락할 위험성이 있다”라고 경고한 바 있다.

한편, 오픈AI 측은 챗GPT의 사이버 보안 우려 해결 방법을 밝히지 않았다.

[저작권자ⓒ CWN(CHANGE WITH NEWS). 무단전재-재배포 금지]