AI 로봇에게 뉴스 편집시켰더니…

MS AI 로봇, 피부색 구별 못해 엉뚱한 사진 편집 '논란'

마이크로소프트(MS)는 최근 MSN닷컴 편집진을 전면 교체했다. 사람 편집자 대신 인공지능(AI) 편집을 전면 도입했다.

하지만 MSN닷컴에 AI 편집을 적용하자마자 민감한 기사에서 사진을 잘못 사용하는 실수를 저질렀다고 영국 매체 가디언이 9일(현지시간) 보도했다.

MS AI 로봇이 피부색을 구별하지 못해 뉴스 사이트에 다른 사람의 사진을 올리는 실수를 일으켰다. (사진=픽사베이)

MSN닷컴은 MS가 운영하는 일종의 포털 사이트다. 여러 매체들이 제공한 기사를 큐레이션하는 방식으로 편집한다. 이 작업을 사람 대신 AI에게 맡긴 것이다.

문제가 된 것은 영국 걸 그룹 리틀 믹스(Little Mix) 멤버 제이드 설웰(Jade Thirlwall)이 인종차별 경험을 얘기한 뉴스 기사였다. 이 기사를 홈페이지에 편집하면서 같은 그룹 멤버 리 앤 피노크(Leigh-Anne Pinnock)의 사진을 올리는 실수를 일으켰다.

이 같은 사실은 제이드 설웰이 인스타그램 스토리에 불만을 제기하면서 알려졌다. 그는 유독 유색 인종인 자신과 리 앤 피노크가 이런 일에 자주 시달린다고 꼬집었다. 또 그룹 네 명의 멤버 중 유색 인종인 두 명을 구별하지 못한다는 것은 기분이 좋지 않다고 밝혔다.

MS 대변인은 "문제를 확인하자 마자 잘못된 이미지를 교체했다"고 밝혔다.

사진=제이드 시얼웰 인스타그램

설웰은 이런 불만을 제기할 때 AI가 편집한 기사란 사실은 인지하지 못했다. 하지만 해당 기사가 AI로 편집된 것이란 사실이 알려지면서 새로운 논란에 휘말렸다.

AI 기술과 얼굴인식 기술이 백인 남성의 얼굴은 잘 식별하지만 여성과 동양인, 흑인 등 소수 인종을 식별하는 능력이 떨어진다는 연구 결과가 공개된 바 있다. 때문에 AI 기술이 인종이나 성차별의 도구로 쓰일 수 있다는 비판도 높다.

해당 매체는 MS 내부 소식통을 인용해 향후 AI 로봇이 비슷한 실수를 할 경우 최대한 빨리 내용을 삭제하라는 지침을 받았다면서, MS가 이번 사건으로 AI 제품에 대한 평판이 떨어질까 우려하고 있다고도 전했다. 또, 전 세계적으로 인종차별 반대 운동이 한창인 지금 AI가 같은 실수를 할까 우려하고 있다고 덧붙였다.

MS는 지난 달 말 엣지 브라우저 내 MSN닷컴, 각종 MS 뉴스 앱 등에 표출되는 뉴스와 콘텐츠를 고르는 일을 해왔던 기자와 에디터 수십 명을 해고하고 AI로 대체하겠다고 밝혔다. 이 해고로 영국에서는 에디터 27명이 미국에서는 약 50명 정도가 일을 그만 둔 것으로 알려졌다.