날이 갈수록 인공지능(AI)의 능력이 발전하고 있다. 최근에는 인물 사진을 바탕으로 사진 속 인물과 똑같은 가짜 이미지를 완벽하게 복제하는 AI 툴이 등장했다.
안면 인식 기술도 속이는 AI 툴?
글로벌 테크 뉴스 웹사이트 더넥스트웹은 글로벌 테크 스타트업 '제너레이티드 미디어(Generated Media)'가 실제 인물과 같은 가짜 이미지를 생성할 수 있는 AI 툴 '애노니마이저(Anonymizer)'를 출시한 소식을 보도했다.
보도 내용에 따르면, 애노니마이저가 생성한 이미지로 안면 인식 기술 시스템을 속일 수 있다.
제너레이트 미디어 관계자는 애노니마이저가 수만 명의 이미지를 기반으로 헤어스타일, 표정, 착용한 액세서리 등에 변화를 주어 실제 인물과 비슷한 이미지를 생성할 수 있도록 트레이닝했다. 이 과정에는 두 개의 신경 네트워크를 두고 새로운 이미지를 생성할 수 있는 인공지능 기술 중 하나인 GAN이 활용됐다.
또, 제너레이트 미디어는 "연령과 성별, 민족, 신체적 특성과 관계없이 모든 사람의 이미지를 정확히 구현하고자 한다"라고 밝혔다. 과거, 인공지능 기술과 안면 인식 기술이 인종 혹은 성차별적이라는 의혹을 의식한 것이다.
애노니마이저의 문제점
애노니마이저가 생성한 이미지는 안면 인식 기술을 속일 수 있을 정도로 매우 정교하지만, 원본 사진과 100% 똑같은 수준은 아니다. 간혹 성인의 원본 사진으로 어린아이 이미지를 생성하는 문제가 보고되기도 한다.
이에, 제너레이트 미디어는 "더욱더 정확한 이미지 생성을 위해 더 많은 인공지능 훈련 과정이 필요하다. 이를 위해 인종이나 성별과 관련 없이 더욱 다양한 인물 사진이 필요하다"라고 전했다.
한편, 더넥스트웹은 애노니마이저가 100% 똑같이 인물 이미지를 복제하는 것은 아니지만, 안면 인식 기술이 악용될 것을 우려하는 이들이 이를 피할 목적으로 애노니마이저 이미지를 사용할 수 있을 것이라고 언급했다.
[저작권자ⓒ CWN(CHANGE WITH NEWS). 무단전재-재배포 금지]
