CWN(CHANGE WITH NEWS) - 호주 온라인안전 위원회 ＂AI 툴, 아동 그루밍 범죄 자동화 위험성 있어＂ 경고

가디언, 더타임즈 등 복수 외신은 호주 온라인안전 위원회(eSafety Commission)가 생성형 인공지능(AI) 툴이 아동 안전을 위협한다고 경고한 사실을 보도했다.

줄리 인맨 그랜트(Julie Inman Grant) 온라인안전 위원회 의장은 온라인안전 위원회가 AI 생성 이미지 기반 학대, 아동 사이버 따돌림 등 AI 관련 문제 보고를 받은 사실을 언급하며, 앞으로 문제가 더 심각해질 것이라고 경고했다.

인맨 그랜트 의장은 AI가 발전하면서 발생할 수 있는 문제 중 하나는 아동 성범죄자가 미성년자에게 접촉할 의도로 챗봇을 제작하는 것을 언급했다. 또, AI가 아동 그루밍 범죄를 대거 자동화할 우려도 제기했다.

인맨 그랜트 의장은 “AI는 눈동자 움직임과 같은 요소를 통해 사용자 행동을 예측하는 메타버스 애플리케이션과 결합한다면, 악의를 지닌 세력이 아동 범죄 목적으로 기술을 조작할 방법이 생길 것이다”라며, “규제를 촉구하는 AI 기업이 갈수록 증가하는 것은 반가운 소식이다. 하지만 생성형 AI 툴의 문제를 간과한다”라고 지적했다.

실제로 DALL-E, 미드주어니(Midjourney) 등 AI 이미지 생성 툴과 AI 챗봇 등은 최근 들어 큰 인기를 얻게 되었으나 인간의 일자리 위협, 거짓 정보 유포 등과 함께 아동 학대와 같은 범죄에 악용될 수 있다는 지적이 잇따랐다.

이에, 매체는 호주가 세계 최초로 국가 단위의 AI 윤리 원칙을 채택한 사실에 주목했다.

한편, 에드 허식(Ed Husic) 호주 과학기술부 장관 대변인은 매체에 “AI는 규제되지 않은 영역이 아니다. AI 추가 규제와 AI 활용 탐색의 일환으로 호주 정부는 다양한 이해관계자와 AI의 위험성과 문제 대응 간 잠재적 격차 및 그와 관련된 추가 정책 조언을 받고 있다”라고 전했다.

[저작권자ⓒ CWN(CHANGE WITH NEWS). 무단전재-재배포 금지]