CWN(CHANGE WITH NEWS) - 해외 연구팀 ＂챗GPT 라이벌 ′바드′, 거짓정보·혐오발언 생성 위험성 심각＂ 경고

마이크로소프트가 오픈AI의 인공지능(AI) 기반 챗봇 챗GPT를 검색엔진 빙에 통합하자마자 구글이 서둘러 챗GPT의 대항마로 바드(Bard)를 공개했다. 구글은 바드 데모 현장에서 바드의 주요 성능을 보여주었으나 사실과는 다른 답변을 제시했다. 이 때문에 다수 애널리스트와 전문가가 바드의 오답 논란을 지적하며, 바드의 기능에 의문을 제기했다.

그리고 지난달 말, 구글은 바드의 정보 제공 정확성을 포함한 여러 기능을 개선했다고 선언하며, 미국과 영국에서 테스트 버전으로 바드를 배포했다. 하지만 오답 제시를 바롯한 문제가 아직 개선되지 않았다는 주장이 제기됐다.

해외 테크 전문 매체 더 데일리 비스트는 디지털 혐오 퇴치 센터(CCDH) 연구팀의 최신 보고서를 인용, 바드가 혐오, 거짓 정보, 음모론을 기반으로 한 정보를 제공할 수 있다고 보도했다.

연구팀은 코로나19, 코로나 백신, 남성우월주의, 인종차별, 유대인 혐오, 우크라이나 전쟁 등과 관련된 질문을 명령어로 입력한 뒤 바드가 작성한 답변을 분석하였다. 연구팀은 바드가 100가지 질문 중 78건의 답변으로 어떠한 추가 정보도 없이 거짓 정보를 포함한 내용을 작성한 사실을 확인했다.

연구팀은 유대인 대학살 부정 등 거짓과 관련된 간단한 질문을 할 때는 바드가 응답을 거부하거나 동의하지 않는다는 사실을 발견했다. 그러나 더 복잡한 내용으로 질문을 작성하거나 바드가 특정 캐릭터와 같은 역할을 하면서 답변을 작성하도록 요청하면, 종종 거짓 정보를 유포할 위험성을 지닌 답변을 생성했다고 전했다.

심지어 바드는 유대인 대학살 사실 자체를 부인하고, 유대인 대학살 증거로 알려진 사진은 조작된 사진이라고 주장하기도 했다.

연구팀은 바드가 성소수자, 여성 등 특정 집단을 겨냥한 혐오 표현도 서슴지 않았다고 전했다. 게다가 남성우월주의적 견해를 정당화하거나 코로나19 백신과 우크라이나 전쟁과 관련된 음모론을 사실인 것처럼 작성하기도 했다고 지적했다.

지난달 구글 연구 부사장 주빈 가라마니(Zoubin Ghahramani)는 “바드가 공격적 발언을 유도할 수도 있는 명령어에 답변하지 않도록 설계되었다”라며, “하지만 간혹 사용자 안전을 위해 설계된 답변 거부 기능이 제대로 작동하지 않을 수도 있다”라고 말했다.

그러나 CCDH 연구팀은 바드에 음모론자 스타일이나 연극 속 특정 등장인물을 모방하는 방식으로 답변을 생성하도록 요구한다면, 답변 거부라는 사용자 보호 조치를 우회하고 바드를 이용하여 문제성 답변을 대거 생성할 수 있다고 지적했다.

특히, CCDH는 “바드는 SNS의 대화를 조작할 콘텐츠를 생성할 수 있다”라며, “대규모 거짓 정보를 유포하려는 악의적인 세력이 바드와 같은 생성형 AI를 이용할 위험성을 경계해야 한다”라고 경고했다.

한편, 바드는 테스트 버전 배포 직후 영국에서 브렉시트를 비판하고 제레미 코빈(Jeremy Corbyn) 전 노동당 당수를 극찬하는 등의 답변으로 영국에서 정치 편향성 논란에 휩싸였다.

[저작권자ⓒ CWN(CHANGE WITH NEWS). 무단전재-재배포 금지]