CWN(CHANGE WITH NEWS) - 윤리적 판단 돕는 AI ′델피′, 인종차별·편견 발언 논란...온라인 표현 학습 결과

인간에게 도움을 줄 목적으로 탄생한 인공지능(AI)이 윤리적인 부분에서 문제를 일으키면서 오히려 인간에게 독이 된 경우가 적지 않다. 또, AI의 윤리 문제를 해결하기 위해 AI를 활용하는 사례가 증가하는 추세이다. 가장 최근의 사례로 앨런 AI 연구소(Allen Institute for AI)가 올바른 윤리적 판단을 알려주고자 제작한 AI '델피(Delphi)'를 언급할 수 있다. 그러나 최근, 윤리적 딜레마 해결을 위해 탄생한 델피가 오히려 윤리적인 부분에서 해를 끼치는 사례가 관측됐다.

델피, 어떤 문제 일으켰나?
더버지, 퓨처리즘 등 외신은 델피가 사용자의 질문에 편견과 차별성 발언을 하면서 심각한 윤리적 실수를 범해 논란이 된 사실을 보도했다.

지금까지 관측된 문제를 살펴보면, 델피는 '미국'이라는 키워드에 '좋은 국가'라고 답변했으나 '소말리아'라는 키워드에는 '위험한 국가'라는 답변을 제시했다. 더 심각한 점은 '백인 남성이 밤에 길거리를 걷는 것'이라는 표현에 '괜찮다'라는 답변을, '흑인 남성이 밤에 길거리를 걷는 것'이라는 문장에는 '우려스럽다'라는 인종차별적 답변을 제시했다.

델피가 인종차별적 발언을 한 것은 위의 사례 뿐만이 아니다. 해외 트위터 사용자 마이크 쿡(Mike Cook)이 밝힌 과거 델피의 문제성 발언 중에는 "백인 남성이 되는 것이 흑인 여성이 되는 것보다 도덕적으로 더 용납할 수 있는 일이다"라는 명확한 차별 발언도 포함됐다.

또, 쿡은 델피의 인종차별, 성차별 이외에도 "이성애자가 되는 것이 동성애자보다 도덕적으로 더 용납할 수 있는 일이다"라는 등 성소수자 차별성 표현도 제시한 적이 있다.

델피가 윤리적 논란을 낳은 문장을 마구 제시한 이유는 알고리즘 훈련에 활용한 데이터 문제 때문인 것으로 드러났다.

미국 IT 매체 더버지는 델피의 알고리즘이 레딧 등 다수 온라인 커뮤니티에 작성된 표현을 마구잡이로 수집하여 훈련 과정을 거친 사실을 지적했다. 훈련 데이터 수집 시 부적절한 표현을 별도로 분류하지 않아, 알고리즘이 특정 집단을 겨냥한 차별성 발언과 일부 사용자의 편견을 그대로 학습하면서 현재와 같은 논란을 일으켰다.

델피의 문제, 외신·전문가 의견은?
해외 온라인 매거진 퓨처리즘은 명확하게 드러난 델피의 목적은 윤리적 판단을 할 수 있을 정도로 AI를 첨단화된 수준으로 발전시키는 것이라는 점에 주목했다. 이어, 컴퓨터에 도덕적 판단을 맡기는 것이 불편하게 느껴질 수 있으며, 델피의 사례로 드러난 바와 같이 현재 AI의 불완전한 윤리성은 여러모로 피해를 줄 것이라고 지적했다.

또, "AI 모델은 자체적으로 편견을 드러내는 것이 아니라 인간이 지닌 편견을 그대로 학습한다. 델피 등 AI 모델이 인간의 편견과 차별 등 윤리적 부분의 어두운 이면을 드러냈으나 실제로 인간이 AI로 드러난 윤리성 문제에 반성하는 태도를 보이지는 않는다"라고 설명했다.

피츠버그대학교 인지과학·인공지능 분야 박사학 연구원인 브렛 칼란(Brett Karlan)은 "언어 알고리즘을 다룰 때, 단어를 전혀 이해하지 않고 일반적인 언어만 알고리즘에 마구 투입한다면 매우 위험하다. 델피의 사례처럼 의미를 이해하지 못하고 부적합한 표현을 생성할 수 있기 때문"이라고 주장했다.

또, 칼란은 궁극적으로 AI의 편견 및 차별 표현 문제를 해결하기 위해 자연어 처리(NLP)를 활용할 가치가 있다고 언급했다. 그는 "자연어 처리의 윤리적 요소가 사회적인 부분을 더 우려하면서 결과적으로 기존 언어 모델보다 더 신중한 표현을 생성할 수 있다고 본다"라고 전했다.

폴 G.앨런 대학원(Paul G. Allen School) 컴퓨터 과학·공학부 대학원생인 리웨이 장(Liwei Jiang)은 델피가 AI 프로그램 시제품이라는 점에 주목하며, "상용화된 프로그램이 아니므로 실제 심각한 피해를 준 것은 아니다. 관련 분야 전문가에게 사회적 규범과 윤리성을 이해하는 AI 시스템 개발을 광범위하게 연구해야 한다는 사실을 일깨워준다"라고 말했다.

이어, 장은 "델피는 실제로 인간과 AI 봇의 합리적 사고 격차를 단적으로 보여주었다. 앞으로 현재 단계의 AI 윤리 수준과 규범 이해도 한계를 더 깊이 조사할 필요가 있다"라고도 언급했다.

[저작권자ⓒ CWN(CHANGE WITH NEWS). 무단전재-재배포 금지]