마이크로소프트(MS)는 최근 MSN닷컴 편집진을 전면 교체했다. 사람 편집자 대신 인공지능(AI) 편집을 전면 도입했다.
하지만 MSN닷컴에 AI 편집을 적용하자마자 민감한 기사에서 사진을 잘못 사용하는 실수를 저질렀다고 영국 매체 가디언이 9일(현지시간) 보도했다.
![](https://image.zdnet.co.kr/2020/06/10/jh7253_FjpqKEkWRpNAL.jpg)
MSN닷컴은 MS가 운영하는 일종의 포털 사이트다. 여러 매체들이 제공한 기사를 큐레이션하는 방식으로 편집한다. 이 작업을 사람 대신 AI에게 맡긴 것이다.
문제가 된 것은 영국 걸 그룹 리틀 믹스(Little Mix) 멤버 제이드 설웰(Jade Thirlwall)이 인종차별 경험을 얘기한 뉴스 기사였다. 이 기사를 홈페이지에 편집하면서 같은 그룹 멤버 리 앤 피노크(Leigh-Anne Pinnock)의 사진을 올리는 실수를 일으켰다.
이 같은 사실은 제이드 설웰이 인스타그램 스토리에 불만을 제기하면서 알려졌다. 그는 유독 유색 인종인 자신과 리 앤 피노크가 이런 일에 자주 시달린다고 꼬집었다. 또 그룹 네 명의 멤버 중 유색 인종인 두 명을 구별하지 못한다는 것은 기분이 좋지 않다고 밝혔다.
MS 대변인은 "문제를 확인하자 마자 잘못된 이미지를 교체했다"고 밝혔다.
![](https://image.zdnet.co.kr/2020/06/10/jh7253_aMEXgR551O41M.jpg)
설웰은 이런 불만을 제기할 때 AI가 편집한 기사란 사실은 인지하지 못했다. 하지만 해당 기사가 AI로 편집된 것이란 사실이 알려지면서 새로운 논란에 휘말렸다.
AI 기술과 얼굴인식 기술이 백인 남성의 얼굴은 잘 식별하지만 여성과 동양인, 흑인 등 소수 인종을 식별하는 능력이 떨어진다는 연구 결과가 공개된 바 있다. 때문에 AI 기술이 인종이나 성차별의 도구로 쓰일 수 있다는 비판도 높다.
관련기사
- AI도 휴식 필요…"작업 계속하니 집중력 저하"2020.06.10
- IBM “얼굴인식 시장에서 철수하겠다”2020.06.10
- 마이크로소프트, 뉴스 에디터 수십명 해고…AI 대체2020.06.10
- "AI, 일자리 잠식보다 창출 효과가 더 크다"2020.06.10
해당 매체는 MS 내부 소식통을 인용해 향후 AI 로봇이 비슷한 실수를 할 경우 최대한 빨리 내용을 삭제하라는 지침을 받았다면서, MS가 이번 사건으로 AI 제품에 대한 평판이 떨어질까 우려하고 있다고도 전했다. 또, 전 세계적으로 인종차별 반대 운동이 한창인 지금 AI가 같은 실수를 할까 우려하고 있다고 덧붙였다.
MS는 지난 달 말 엣지 브라우저 내 MSN닷컴, 각종 MS 뉴스 앱 등에 표출되는 뉴스와 콘텐츠를 고르는 일을 해왔던 기자와 에디터 수십 명을 해고하고 AI로 대체하겠다고 밝혔다. 이 해고로 영국에서는 에디터 27명이 미국에서는 약 50명 정도가 일을 그만 둔 것으로 알려졌다.