CWN(CHANGE WITH NEWS) - 성범죄 도구로 전락한 AI 툴 ‘딥페이크’, 온라인서 또 다른 범죄에 악용될 위험성 크다?

올해 초, 전 국민을 공분하게 만든 사건이 있다. 이른바 '텔레그램 N번방' 사건. 강력한 보안을 악용해, 텔레그램이라는 메신저를 집단 성범죄 수단으로 악용한 사건이다.

그리고 불과 한 달 전, 텔레그램이 또 한 차례 성범죄 수단으로 악용됐다. '딥페이크'라는 AI 툴을 이용한 성범죄이다. 지난달, 이른바 딥페이크 사건이 전 세계의 큰 이슈로 떠올랐다. 그런데, 글로벌 월간지 와이어드가 딥페이크가 향후 더욱 교묘하게 악용될 수 있다고 주장한다.

성범죄 수단으로 전락한 AI 봇
텔레그램에서 딥페이크는 여성의 특정 신체 부위를 적나라하게 보여주는 데 악용됐다. 사진 속 여성의 이미지는 당사자의 동의 없이 무단으로 사용됐다.

피해 범위는 텔레그램 N번방 사건보다 훨씬 넓다. 한국과 미국, 이탈리아, 이스라엘 등 세계 여러 국가에서 딥페이크 피해 사례가 다수 보고됐다. 피해자 중에는 수많은 여성이 포함됐다.

딥페이크 범죄는 2차 가해로도 이어졌다. 국내에서는 딥페이크로 조작된 사진이 삭제된 후, 다른 SNS 플랫폼에서 지인 능욕과 같은 형태로 여성의 나체 사진 거래가 이어지고 있다.

이에, 이탈리아 당국은 딥페이크 사건과 관련, 수사에 착수했다.

또, 애플은 딥페이크가 논란이 되자 '지나치게 성적이며 음란한 콘텐츠'라는 이유로 iOS에서 딥페이크에 접근할 수 없도록 차단했다. 그러나 애플은 딥페이크로 조작된 여성의 신체 사진을 모든 메시지 앱에서 차단할 수는 없다고 밝혔다.

범인 찾기 어렵다?
글로벌 보안 업체 센시티(Sensity) 연구원들은 텔레그램에서 딥페이크가 올해 초, 처음 등장했다고 말한다. 그리고, 10월에 딥페이크를 악용한 범죄가 발각된 후, 딥페이크로 범죄를 가하던 조직이 사라졌다.

이에 대해, 센시티 CEO인 조지오 파트리니(Giorgio Patrini)는 "지금은 딥페이크를 사용한 조직을 검거하기 어렵다. 모두 텔레그램에서 프로필을 변경하고 잠적했기 때문"이라고 말했다.

전문가들의 의견은?
파트리니는 딥페이크의 기술이 빠르게 발전하고 있다고 언급하며, 미래에도 이와 같은 일이 발생할 수 있다고 설명했다. 이어, 이번 사건은 집단으로 딥페이크를 악용한 최초의 사례이며, 딥페이크 자체가 누구나 사용하기 쉽다고 전했다.

그는 누구나 접근이 가능하다는 특성 때문에 온라인상에서 이번 딥페이크 사건과 같은 기술 악용 사례가 추가로 발생할 위험성이 높다고 경고했다.

글로벌 로펌 맥앨리스터 올리바리우스(McAllister Olivarius) 소속 변호사 혼자 세르벤카(Honza Červenka)는 딥페이크 사건 해결을 위해 텔레그램이 직접 자세히 살펴보고 책임을 져야 한다고 주장한다.

그는 모든 테크 업계가 사용자 보호 강화와 딥페이크처럼 기술이 악용되는 사례를 근절하기 위한 대책을 세워야 한다는 점도 함께 강조했다.

[저작권자ⓒ CWN(CHANGE WITH NEWS). 무단전재-재배포 금지]