CWN(CHANGE WITH NEWS) - 싱가포르 무료 AI 상담치료 봇, 직장 내 스트레스 상담 요청하는 교사에게 독이 되다

코로나19 확산 초기, 싱가포르 정부는 시민의 스트레스 및 정신건강 관리를 위해 무료 인공지능(AI) 치료 봇을 배포했다. 그중에는 특수한 직종 근로자의 상담을 위한 앱도 있다. 그런데 최근 들어 싱가포르 정부 지원 교사용 AI 상담 치료 봇이 가스라이팅 문제를 일으키고 사용자의 분노를 유발하는 등 오히려 사용자에게 독이 되어 돌아온 것으로 드러났다.

해외 테크 매체 레스트 오브 월드는 업무 부담으로 시달린 초등학교 교사인 민디(Mindy, 가명)의 사연을 전했다.

초등학교 음악 교사 민디가 교사 생활을 하면서 스트레스가 절정에 이르렀을 때, 민디의 학생 일부가 학교에서 흡연한 사실이 발각되었다. 싱가포르에서는 불법이기 때문에 경찰이 학생의 흡연 문제에 즉각 개입했다.

이미 혼자 학생 500명을 담당하여 업무 부담과 스트레스가 극심하여 문제 학생을 제대로 지도할 여력이 없었다. 결국, 정신적 스트레스에 시달린 민디는 정부 지원 온라인 정신 건강 포털인 마인드라인 앳 워크(Mindline at Work)를 찾기 시작했다.

싱가포르 교육부가 지난 8월, 교사의 정신건강 관리를 위해 출시한 '마인드라인 앳 워크 교육부' 툴은 교사를 위해 개발됐으며, 민디가 사용한 챗봇 기능은 시범용으로 배포됐다. 민디도 챗봇 기능을 이용해 자신의 사연을 털어놓았다. 민디가 처음 마인드라인 앳 워크의 AI 상담 치료 챗봇을 사용할 때는 챗봇을 통해 최악의 조언을 얻을 것이라고는 상상도 하지 못했다.

그러나 챗봇은 민디를 포함해 번아웃 증상에 시달리는 많은 교사에게 별다른 도움이 되지 않았다. 챗봇은 상담을 위해 접속한 사용자에게 "인간의 생각이 항상 도움이 되는 것은 아니라는 사실을 똑똑히 기억하라. 친구나 가족이 자신과 같은 상황에 있다면, 지금의 자신과 같은 생각을 하겠는가?"라는 메시지를 전송했다.

마인드라인 앳 워크는 싱가포르 정부가 최고의 AI 상담 치료 앱 와이사(Wysa) 개발사와의 협력으로 개발한 AI 상담 치료 포털이다. 와이사도 비슷한 AI 기반 상담 치료 앱으로 유명하다. 마인드라인 앳 워크는 돌봄 및 건강 앱 검토 기구(ORCHA)의 전문가에게서 임상의학적 조언을 받아 설계하였다.

그러나 마인드라인 앳 워크 사용자 대부분 레스트 오브 월드와의 인터뷰에서 교사라는 특정 집단의 수요를 맞추지 못한다고 지적했다. 많은 사용자가 며칠 동안 사용하면서 봇이 일반적인 조언이라고 보내는 답변이 실제 문제를 해결하는 데 도움이 되지 않는다는 불만을 토로한다.

또, 심리학 전문가 다수가 가장 많이 지적한 부분은 디지털 복지나 치료 앱과 협력했을 때, 직장에서 발생한 정신건강의 근본적인 문제를 해결하지 못한다는 부분을 우려한다.

AI 치료 봇과의 관계에서 고용주는 업무 스트레스와 유해 환경, 안전하지 않은 상태 등 각종 문제가 심각해지도록 방치한다.

익명을 요청한 또 다른 공립학교 교사인 초(Chow)도 "마인드라인 앳 워크는 교사의 관점에서 볼 때 전혀 쓸모없다"라고 한탄했다. 초는 정부 산하 계약직 교사로 근무하면서 정교사보다 받는 임금이 적다. 초의 임금은 최저 시급보다 적은 편이며, 이와 관련된 문제로 마인드라인 앳 워크를 사용한 적이 있다.

초는 "마인드라인 앳 워크는 상담을 원하는 교사를 대상으로 가스라이팅하기만 한다"라며, "마인드라인 앳 워크는 업무 스트레스에 시달리는 교사가 자신의 상황을 털어놓으면 '그 정도는 정상적인 상황이다. 관점을 바꾸어 생각하라'라는 메시지만 보낸다"라고 지적했다.

또, 그는 자신이 아는 동료 교사 중 마인드라인 앳 워크를 진지하게 사용하는 이가 없다고 덧붙였다.

와이사 마케팅 부사장 사라 발드리(Sarah Baldry)는 레스트 오브 월드에 마인드라인 앳 워크는 감정적 회복력 지원을 위해 개발한 앱이라고 전했다. 발드리 부사장은 "앱이나 봇이 타인의 행동 변화를 일으킬 수 없다는 사실을 이해하는 것이 중요하다. 와이사는 사용자가 느끼는 감정을 바꾸도록 돕는 역할만 할 수 있다"라고 설명했다.

이어, 교사가 스스로 직접 문제 제기를 하면서 근무 조건을 바꾸려 해야 한다고 주장했다.

와이사 수석 심리학자 조시(Joshi)는 싱가포르 교사 다수가 마인드라인 앳 워크에 분노하는 이유는 교사가 이미 분노를 느끼는 상태일 때 봇을 도입했기 때문일 가능성을 언급했다.

결국 싱가포르 교사를 포함한 다수 직장인이 직장 내 불만을 이야기할 때는 AI 상담 치료 앱 대신 인스타그램에 의존한다. 현재 노동조합에 대한 엄격한 법률과 2024년 시행 예정인 플랫폼 노동자의 기본권 보호 논의가 활발하게 이루어지는 가운데, 여러 부문의 근로자가 익명의 집단 계정에 의존한다.

배달 기사, 보건복지 분야 근로자, 교사 등 여러 직종의 근로자는 위험하거나 불합리한 근무 환경에 대해 불평하는 밈과 인포그래픽으로 가득 찬 인스타그램 페이지를 불합리한 근무 조건을 하소연할 공간으로 활용한다. 또, 정신적 고통을 덜기 위해 근무 조건이 원인이 된 스트레스와 정신건강 문제를 다양한 형태로 다루기도 한다.

[저작권자ⓒ CWN(CHANGE WITH NEWS). 무단전재-재배포 금지]