美 연구팀, 의학용 AI 알고리즘 인종 차별 문제 해결책 제시

美 연구팀, 의학용 AI 알고리즘 인종 차별 문제 해결책 제시: 이선영 / 기사승인 : 2021-02-09 15:11:20

2020년, 코로나19 확산세와 함께 모든 분야에서 디지털화 추세가 가속화되었다. 의료 분야도 예외가 아니었다. 코로나19 이전부터 첨단 기술을 도입하던 의료 분야에도 여러 기술 도입이 그 어느 때보다 활발하게 이루어졌다. 원격 진료는 물론이고, 빅데이터와 인공지능(AI)을 기반으로 환자 질병 진단과 진료 기록 등을 관리하고, 환자 개인에게 가장 적합한 치료법까지 찾는 시대가 되었다.

그러나 의료계에 첨단 기술이 도입되면서 늘 따라다니던 문제가 있었다. 바로 AI 알고리즘의 인종 차별 문제이다. 실제로 해외에서는 AI 알고리즘이 환자의 인종과 출신 국가에 따라 질병 진단 정확도의 차이를 보이거나 수술의 필요성 등을 다르게 평가한 사례가 수두룩하게 발견됐다.

누구나 동등하게 의료 서비스에 접근하지 못하도록 막는 문제가 발생해, 의학용 AI 알고리즘의 인종 차별 문제 해결이 시급한 과제로 떠올랐다. 이러한 가운데, 미국의 연구팀이 AI 알고리즘의 고질적인 차별 문제를 해소할 방법을 제시했다.

AI 알고리즘, 훈련 데이터부터 바꾸자
미국 스탠퍼드대학교와 시카고대학교, 하버드대학교 교수로 구성된 연구팀이 네이처 메디신(Nature Medicine)에 의학용 알고리즘의 인종 차별 문제를 개선할 방안을 제시한 연구 논문을 게재했다.

연구팀은 기존의 의학용 알고리즘에는 원인을 구체적으로 설명할 수 없는 인종 간 진단 결과 격차가 발생한다는 문제를 지적했다. 그리고, 연구 과정에서 인종과 상관없이 환자가 직접 보고한 통증 데이터를 활용해 무릎 X선 알고리즘을 훈련했다.

기존의 의학용 알고리즘 훈련 데이터 대부분이 한정적인 범위 혹은 집단을 대상으로 수집한 일부 데이터를 중심으로 구성된 점에 주목해, 알고리즘 훈련 방법에 변화를 준 것이다.

연구 결과, 환자의 보고 내용을 기반으로 훈련받은 알고리즘이 전문의가 간과한 부분까지 더 정확하게 짚어내는 것으로 확인됐다. 더 중요한 점은 환자의 인종에 따른 결과의 차이가 사라졌다는 사실이다.

기존의 방식을 이용했을 때, 똑같이 골관절염 수술이 필요한 상황에서 백인 환자보다 흑인 환자에게 수술이 필요하다는 결과를 내놓을 확률이 40% 더 낮았다. 그러나 환자가 직접 보고한 데이터를 기반으로 훈련한 알고리즘은 인종과 상관없이 환자의 통증을 더 정확하게 발견했다.

전문가의 의견
캘리포니아대학교 버클리캠퍼스 공중보건 대학의 지아드 오버메예(Ziad Obermeyer) 교수는 "새로운 알고리즘은 방사선 전문의가 간과했을 부분인 흑인 환자의 통증 유발 원인까지 살펴본다"라고 언급했다.

또, 연구팀은 다루기 어렵지만, AI 앱을 더 실용적으로 만드는 기술인 인공 신경망을 활용한 덕분에 알고리즘이 X선 진단 과정에서 전문의가 놓칠 수 있는 부분까지 발견할 수 있다고 전했다.

보건 불평등 문제 전문가인 웨일코넬의과대학의 사이드 이브라힘(Said Ibrahim) 교수는 "이번 연구와 함께 환자의 보고를 기반으로 훈련받은 알고리즘이 기존의 여러 의학 분야에서 의사가 사용하는 AI 기반 진료 전략을 다시 평가해야 한다는 사실을 나타낸다"라고 주장했다.

한편, AI 알고리즘은 의학 분야에서만 인종 차별 문제를 낳는 것이 아니다. 안면 인식 기술, AI 언어 모델 등 여러 분야에서 인종 차별, 성차별 등 각종 차별 문제가 끊임없이 발생해, 많은 전문가의 골머리를 앓게 한다.

그러나 이번 연구 논문과 함께 의학용 AI뿐만 아니라 여러 종류의 AI도 훈련 과정을 재평가하고, 새로운 훈련 과정을 활용한다면 차별 문제를 완화하는 데 도움이 될 것으로 보인다.