CWN(CHANGE WITH NEWS) - 인공지능, 의사결정 근거 설명한다?...XAI 기술 개념·연구 현황 파악하기

XAI는 인공지능(AI)이 내린 결정을 신뢰하고 따를 수 있도록 그 근거와 타당성을 제시하는 기술이다.

많은 사람에게 XAI는 생소한 개념으로 다가올 수 있다. 그러나 XAI는 1970년대부터 이미 존재했던 개념이다. 최근 인공지능 기술이 점차 발전하면서 XAI의 중요성도 증가하고 있다. AI 기술이 날로 고도화되면서 연산과정 또한 점차 복잡해지고 있다. 이 과정에서 AI가 어떠한 이유로 해당 의사결정을 내렸는지 사용자는 알기 힘들다. 이때, 도움을 주는 것이 XAI이다.

과거에는 의사결정의 과정보다는 결과를 더 중시했다. 그러나 AI의 적용 범위가 점차 넓어져 이제는 사람의 감정, 건강 등 인간의 삶에 떼어낼 수 없게 밀접하게 연결되어 있다. 따라서 AI가 내린 의사결정 결론 도출 과정 등을 구체적으로 파악하기 위해 XAI를 이용할 수밖에 없다.

XAI의 예시 설명 그림

최근 구글이나 마이크로소프트, IBM, 아마존과 같은 글로벌 IT 기업이 XAI에 주목하고 있다. 국내에서는 과학기술정보통신부 산하 '설명가능인공지능 연구센터'에서 연구가 진행되고 있다.

XAI가 적용되면, 금융 분야에서는 시장 전망을 분석하는 등 다양한 상황에 XAI가 도움이 될 수 있다. 또한, 의료 분야에서는 어떤 생체 근거에 의해 질병을 진단했는지 등을 파악할 수 있다. XAI 기술이 지닌 잠재력을 고려했을 때, 앞으로 연구가 더 활발히 진행될 것으로 보인다.

[저작권자ⓒ CWN(CHANGE WITH NEWS). 무단전재-재배포 금지]