CWN(CHANGE WITH NEWS) - 오픈소스 AI 바둑 프로그램 ′카타고′, 인간 아마추어의 속임수에 패배

2016년, 세기의 바둑 대국에 세계의 이목이 쏠렸다. 세계 챔피언인 이세돌 9단이 인간이 아닌 인공지능(AI) 프로그램 알파고(AlphaGo)와 만나 인간과 AI의 대결을 펼쳤기 때문이다. 당시 대국은 인공지능이 인간을 이긴 사례로 주목받았다.

그리고 최근, 세계 최정상 바둑 기사를 이길 만한 기술력을 갖춘 오픈소스 바둑 AI ‘카타고(KataGo)’가 등장하며, 바둑 AI 프로그램이 또다시 화제가 되었다. 하지만 이번에는 카타고가 인간 챔피언을 이긴 것과 달리 아마추어 인간에게 패배했다는 부분에 관심이 집중됐다.

Ars테크니카, 테크익스플로러 등 복수 외신은 캘리포니아대학교 버클리캠퍼스의 AI 연구원 여러 명이 카타고가 훈련 데이터로는 예상할 수 없는 변수를 이용하여 카타고를 이길 수 있다는 사실을 입증한 소식을 보도했다.

연구팀은 카타고가 훈련으로 학습하지 못한 변수를 노릴 ‘역설계 정책’을 고안했다. 연구팀은 신경망과 트리 탐색 기법(tree-search method)을 함께 사용했다.

연구팀은 카타고를 이길 전략으로 바둑판의 한쪽 구석에 검은 돌을 잔뜩 올린 속임수를 이용했다. 이때, 카타고가 바둑판의 나머지 영역을 차지하도록 하지만, 연구팀의 검은 돌이 잔뜩 모인 공간을 바둑판 바깥 영역으로 인식한 것으로 나타났다.

이번 연구를 이끈 애덤 글리브(Adam Gleave) 교수는 “카타고는 여러 가지 새로운 전략을 제법 훌륭하게 일반화한다. 그러나 훈련 중 학습한 전략과는 거리가 먼 상황을 접할수록 약해진다. 이번 연구에서는 카타고가 특히 취약한 모습을 보였던 ‘오프 디스트리뷰션(off-distribution)’ 전략을 발견했다. 그러나 역설계와 같은 속임수를 중심으로 카타고를 이길 또 다른 방법을 찾을 수 있을 것이라고 생각한다”라고 말했다.

또, 글리브 교수는 바둑판 한쪽 구석을 점유하면, 카타고가 바둑판의 나머지 영역만 집중하면서 이미 이긴 경기라고 인식하도록 속임수를 적용할 수 있다고 설명했다.

마지막으로 글리브 교수는 “이번 연구는 인간 수준에서 실행하는 것처럼 보이는 AI 시스템이 의외의 변수 때문에 인간에게 패배할 수 있음을 입증했다. 이번 연구는 바둑을 대상으로 진행하여 결과가 흥미롭다고 할 수 있다. 그러나 안전이 중요한 시스템에서는 예상치 못한 변수가 위험한 문제를 일으킬 수 있다고 볼 수 있다”라고 전했다.

[저작권자ⓒ CWN(CHANGE WITH NEWS). 무단전재-재배포 금지]