CWN(CHANGE WITH NEWS) - 피싱 메일 탐지, ′AI 챗봇′이 방해한다…사이버 보안 전문가 경고

챗GPT가 널리 배포되자 인공지능(AI)을 악성 코드 작성 등 사이버 공격에 악용하는 사례가 보고되었다. 반대로 마이크로소프트의 GPT-4 기반 ‘보안 코파일럿(Security Copilot)’과 같이 사이버 보안 강화에 도움을 주는 방향으로 AI를 활용하는 사례도 찾아볼 수 있다.

그런데 챗GPT를 비롯한 대규모 언어 모델이 사이버 공격 피해 예방을 방해한다는 경고가 제기되었다.

영국 일간지 가디언에 따르면, 사이버 보안 전문가 단체가 AI 챗봇의 문법 및 철자 오류를 포함한 사기성 피싱 메일 탐지의 걸림돌이 된다고 경고했다.

피싱 메일은 사이버 범죄 세력이 피해자를 속여 악성 소프트웨어를 설치하거나 민감 정보를 건네도록 유도하는 사이버 공격 유형이자 가장 흔한 사이버 범죄 수법 중 하나이다. 그동안 스팸 메일 필터는 문법이나 철자 오류 검토 과정을 포함하여 스팸 메일을 자동으로 차단하였다. 하지만 이제는 사이버 범죄 세력이 AI 챗봇으로 피싱 메일 내용을 작성하고, 문법 혹은 철자 오류도 수정한다.

미국 사이버 보안 기업 래피드7(Rapid7) CEO 코리 토마스(Corey Thomas)는 “이제 누구나 AI 챗봇으로 맞춤법과 문법 오류를 손쉽게 교정할 수 있다. 피싱 메일 감지 기준으로 널리 알려진 철자와 문법 오류 발견이 이제는 적용되지 않는다는 의미이다”라고 설명했다.

또, 영국 사이버 보안 기업 다크트레이스(Darktrace)의 전문 연구팀은 AI 챗봇으로 작성한 피싱 메일이 증가했다는 데이터 분석 결과를 공개했다. 또한, 연구팀의 데이터는 사이버 범죄 세력이 AI 챗봇으로 철자와 문법 오류를 교정하는 등 서툰 영어 실력을 숨기고, 스팸 필터의 피싱 메일 탐지 과정을 우회하는 사례도 증가한 사실을 입증한다.

다크트레이스 최고 제품 책임자 맥스 하이네마이어(Max Heinemeyer)는 챗GPT 정식 배포 후 다크트레이스의 모니터링 장치에 탐지된 악성 피싱 메일 수는 감소했으나 피싱 메일임을 짐작할 만한 어색한 영어 표현이 대거 감소했다고 설명했다. 심지어 AI 챗봇의 접근성이 확대되자 언어적 복잡성과 정교한 표현을 포함한 피싱 메일도 급격히 증가한 것으로 확인됐다.

미국과 이스라엘에 지사를 둔 보안 기업 체크포인트(CheckPoint)도 챗GPT가 설득력이 있는 듯한 피싱 메일을 생성한 사례에 주목했다. 체크포인트는 최신 보고서를 통해 실제 사례를 설명하며, 피싱 메일 생성 및 사이버 범죄 목적으로 사용하는 행위를 금지한다는 AI 챗봇 개발사의 조항이 무용지물이라고 지적했다.

이 밖에 유로폴은 챗GPT와 다수 대규모 언어 모델이 피싱 메일 전송 이외에도 사기, 소셜 엔지니어링, 거짓 정보 유포에도 대거 악용될 수 있다고 경고하는 내용의 경고문을 발행했다. 유로폴은 경고문을 통해 “맥락에 따른 질문을 통해 언어 모델로 특정 단계의 작업을 처리할 수 있다는 점은 악의적인 세력이 각종 범죄 유형을 더 깊이 이해하고, 범죄에 AI를 악용할 확률이 더 높다는 의미이다”라고 설명했다.

[저작권자ⓒ CWN(CHANGE WITH NEWS). 무단전재-재배포 금지]