CWN(CHANGE WITH NEWS) - 양날의 검 지닌 AI, 사용 전 ′이 문제′ 다시 생각해야 할 것

4차 산업혁명의 시대, 인공지능(AI)이 대세 기술로 떠오르면서 PR과 마케팅의 필수 요소가 되었다. 또, 갈수록 많은 기업이 AI를 채택한다. 그 이유는 무엇일까?

첫 번째로 자동화를 통한 비용 절감과 업무 효율성 향상이다. 호스팅 서비스 기업 EVROS는 단순 수작업의 반복이었던 회계팀의 업무인 인보이스를 UiPath RPA 솔루션과 AI를 활용하여 인보이스 처리 프로세스를 자동화했다. 결과적으로 회계팀의 인보이스 처리에 투입하는 시간과 오류를 줄이면서 인보이스 처리의 정확성과 생산성이 향상됐다.

두 번째는 사람이 처리하기 어려운 정도로 많은 양의 데이터 처리 작업을 위한 목적이다. 이 과정에는 빅데이터를 이용한 통계 모델 학습이 이루어진다.

대표적인 사례로 서울시 응답소의 사례를 살펴볼 수 있다. 서울시 응답소는 다량의 민원을 실시간 분석하기 위해 일반 빅데이터 분석 방식에 AI를 접목해서 실시 중이다. 실시간 자동 분석되는 민원 빅데이터는 주요 정책 수립에도 도움을 준다. AI는 긴급 안전 신고의 신속한 처리를 하고, 재해나 질병 발생 시에 신속한 초기 대응 체계 구축도 지원하고 있다. 이 과정에서는 빅데이터 속에서 주목 받지 못한 스몰데이터 발굴도 가능해져 시민의 작은 목소리에도 귀를 기울일 수 있게 되었다.

세 번째는 미래 예측과 오류 분석, 의사결정을 위한 용도이다. 여기에는 주로 인간이 찾기 어려운 비선형적 패턴을 활용해, 효과적으로 상황을 판단한다.

대표적으로 캐나다 스타트업인 블루닷(BlueDot)의 '인공지능 건강 모니터 플랫폼'이 코로나 19의 발병과 확산을 조기에 예측한 사례를 언급할 수 있다. 전 세계에 코로나19가 창궐하기 전, 65개 언어의 10만 건에 달하는 뉴스, 공식 자료, 소셜 미디어 데이터, 항공사의 티켓 판매, 항공 경로 등을 정보를 수집, 분석한 덕분에 현재의 상황을 예측할 수 있었다.

위의 사례 모두 조직의 생산성은 물론이고, 사용자의 생산성에도 큰 도움이 되며, AI 기반 제품의 궁극적인 목표가 생산성과 연결된다는 사실을 알 수 있다.

그러나 AI 기반 제품이 모두 생산성을 극대화하는 긍정적인 효과를 가져오기만 하는 것은 아니다. 효율성 향상과 함께 윤리적인 문제가 고질적으로 등장했다. 조작된 이미지와 영상, 음성 등을 실제와 같이 제작하는 딥페이크는 가짜 뉴스와 각종 선동 광고, 타인의 명예 훼손 의도를 지닌 음란물 등을 유포하는 용도로 악용됐다. 또, AI 언어 모델이 특정 집단을 겨냥한 혐오 발언과 성희롱적인 발언을 하면서 논란이 된 적이 있다. 이는 올해 초, 전 국민의 이목을 집중시킨 AI 챗봇 '이루다'의 사례를 통해서도 살펴볼 수 있다.

게다가 의사의 효율적인 진료 활동을 위해 등장한 질병 진단 알고리즘이 환자의 인종에 따라 진단 정확도가 달라지는 등 AI는 인종과 성별 등에 따라 편견 문제를 끊임없이 낳고 있다.

따라서 생산성과 효율성 극대화라는 장점을 활용하려는 취지는 좋지만, 윤리적 문제도 함께 고려해 AI를 개발하고 활용하는 것이 무엇보다도 중요하다.

[저작권자ⓒ CWN(CHANGE WITH NEWS). 무단전재-재배포 금지]