글로벌 차량 공유 플랫폼 우버(Uber)가 영국에서 자동화된 안면 인식 소프트웨어 때문에 법정에 서게 되었다.
가디언, 테크크런치, 엔가젯 등 복수 외신은 전직 우버 기사가 안면 인식 소프트웨어의 인종차별 문제로 피해로 보았다고 주장하며 우버를 제소한 사실을 보도했다.
원고는 업무를 위해 우버 앱에 접속할 때, 계정 주인과 실제 앱에 접속하는 이가 같은 인물임을 입증하는 수단인 안면 인식 소프트웨어가 자신의 얼굴을 인식하지 못한 탓에 우버에서 부당하게 퇴출되었다고 호소했다.
우버는 지난해 4월부터 일부 우버 기사가 타인에게 계정을 대여하여 대신 근무하도록 하는 문제를 막고자 앱 접속 시 마이크로소프트가 개발한 안면 인식 소프트웨어 기반 신원 인증 제도를 채택하기 시작했다. 앱 접속 과정에서 안면 인식 인증을 통과하지 못하면, 타인에게 계정을 대여한 것으로 판단해 앱 접속을 제한한다.
그러나 마이크로소프트가 자사의 안면 인식 소프트웨어의 유색 인종 인식 정확도가 낮다는 사실을 인정한 후에도 안면 인식 인증 제도를 계속 사용했다. 또, 안면 인식 인증 오류로 앱 접속이 제한된 이 누구나 우버 관리팀에 연락해, 내부 인력의 추가 검토를 요청하고 앱에 정상적으로 접속할 수 있다는 우버의 주장과 달리 운전기사가 안면 인식 인증 문제를 보고해도 아무런 조처도 하지 않는 것으로 확인됐다.
원고의 편에서 우버의 인종차별적 알고리즘 문제 해결에 나서는 비영리단체인 영국 독립노동자 조합(IWGB)은 지금까지 영국 내 우버 기사 35명이 우버의 안면 인식 소프트웨어의 오류로 우버에서 부당하게 퇴출되었다고 설명했다. 이어, 안면 인식 소프트웨어 문제를 보고한 이들 모두 유색 인종이라는 점을 지적하며, 우버의 안면 인식 소프트웨어가 '인종차별적 알고리즘'을 사용한다고 비판했다.
IWGB의 헨리 챈조 로페즈(Henry Chango Lopez) 총괄은 "우버는 유색 인종 근로자 인증에 효과가 없는 안면 인식 알고리즘을 계속 사용했다. 이는 차별 행위이다"라며, "코로나 시대에 영국 전역에서 수백만 명이 운전기사로 근무한다. 그러나 안면 인식 인증 오류 발생 시 운전기사가 문제를 보고하고, 시정할 방법이 전혀 없다"라고 말했다.
IWGB만 우버의 인종차별적 알고리즘을 비판한 것이 아니다. 영국 내 플랫폼 종사자 권리 보호 단체인 앱 운전기사 및 배달 기사 조합(ADCU)도 우버의 생체 인증 정보의 유색 인종 차별 문제가 고질적으로 발생했다고 강조했다.
ADCU 회장 야신 아슬람(Yaseen Aslam)은 "지난해, 우버는 인종차별을 반대한다고 주장하며, 인종차별주의자가 자사의 앱을 삭제하기를 바란다고 말했다. 그러나 우버는 인종차별 문제 퇴치에 나서기는커녕 오히려 시스템에 인종차별 문제를 심어두면서 많은 근로자에게 피해를 주었다"라며, 우버를 질책했다.
ADCU는 10월 5일(현지 시각), IWGB의 사건과 별도로 알고리즘의 인종차별 문제 때문에 우버 플랫폼에서 부당하게 퇴출된 우버 이츠(Uber Eats) 배달 기사 2명과 우버 운전기사 1명을 대신해 우버를 제소했다.
[저작권자ⓒ CWN(CHANGE WITH NEWS). 무단전재-재배포 금지]
