인공지능(AI)이 널리 보급됨과 동시에 활용 범위가 넓어지면서 AI 윤리성 논란이 끊이지 않았다. 백인보다 유색인종의 신원 검증 정확도가 더 낮은 사례와 같이 특정 집단을 대상으로 차별과 편견 문제를 일으키는 사례가 계속 보고된 탓이다.
이에, 글로벌 월간지 와이어드는 윤리적 기술 표준 기업 ‘크레도 AI(Credo AI)’가 AI의 윤리성 논란에 정면으로 맞선다는 소식을 보도했다.
크레도 AI 공동 창립자이자 CEO인 나브리나 싱(Navrina Singh)은 “현재 AI 개발 과정에 결함이 있다”라며, “개발 초기 단계부터 윤리적 관행을 따르는 스크립트를 적용한 AI 개발과 함께 근본적인 문제를 해결하고자 한다”라고 밝혔다.
크레도 AI는 특정 기관의 AI 사용 관행을 전반적으로 평가한 뒤 목표와 잠재적 문제 감사 과정을 통해 AI의 윤리성 문제 개선에 나선다.
크레도 AI는 누구나 AI 모델과 데이터 진단에 활용할 수 있는 오픈소스 프로그램인 ‘크레도 AI 렌즈(Credo AI Lens)’를 개발했다. 크레도 AI 렌즈는 AI 위험성 점수를 평가하면서 프라이버시나 공정성 개선 필요성을 안내한다. 이후 진단 결과를 바탕으로 문제를 해결할 방법을 제시한다.
현재 크레도 AI의 주요 고객사 중에는 마스터카드도 포함되었다. 마스터카드는 자사 AI 신용 평가 시스템의 편견 문제 해결과 알고리즘의 공평한 의사 결정을 위해 크레도 AI에 주목했다.
하지만 싱은 많은 기업과 정부 기관이 AI 시스템 개발에 적극적으로 나서면서도 윤리성 문제를 제대로 개선하지 못한다는 점을 지적했다. 혁신을 억제하지 않는 범위에서 AI를 통제할 방법을 알지 못하는 것이 근본적인 문제 원인이다. 지금 당장 실효성이 있는 AI 규제가 없다는 현실도 AI 윤리성 문제를 퇴치하지 못하는 문제의 원인이 된다.
따라서 크레도 AI는 모든 영역에 적용할 AI 관리 표준을 확립하고자 한다.
싱은 “크레도 AI가 신뢰할 수 있는 플랫폼을 추가로 확립하고 보급한다면, 책임감 있는 AI 인증을 제대로 옹호할 수 있을 것이다”라며, “데이터 출처와 포괄성, 알고리즘 개발 방식, 개발 과정에서의 다양한 집단의 목소리 반영 여부 등이 AI의 윤리성을 좌우하는 요소가 될 것”이라고 전했다.
[저작권자ⓒ CWN(CHANGE WITH NEWS). 무단전재-재배포 금지]
