[김익현의 미디어 읽기] AI의 '두 가지 한계' 드러낸 MSN의 편집 실수

'우연한 발견' 실종된 뉴스 읽기

마이크로소프트(MS)의 인공지능(AI) 뉴스편집 실험이 끝내 사고를 쳤다. 영국 인기 걸그룹의 인종차별 경험을 다룬 기사에서 사진을 잘못 사용하는 실수를 저지른 것. 지난 달 말 MSN닷컴과 각종 MS 뉴스 앱 편집을 AI에게 맡긴 지 불과 몇 주 만에 벌어진 일이다.

논란이 된 건 걸그룹 리틀믹스 멤버 제이드 설웰이 인종차별 경험이 있다는 내용의 기사였다. 이 기사에 같은 그룹 멤버인 리 앤 피노크 사진을 올려놨다. MS 측은 부랴부랴 사진을 교체하고 사과했지만 파장은 만만치 않을 전망이다.

MSN의 AI 편집 툴이 리 앤 피노크(왼쪽에서 세번째)와 제이드 설웰(맨 오른쪽) 사진을 구분하지 못해 논란에 휘말렸다. (사진=씨넷)

이번 사건은 크게 두 가지 관점에서 논란이 되고 있다.

첫째. 뉴스 편집을 AI에게 완전히 맡길 수 있을까.

물론 사람도 실수한다. 때론 엉뚱한 사진을 올리기도 한다. 하지만 이번 같은 실수는 찾아보기 힘들다. 사람 편집자는 인기 걸그룹 멤버의 얼굴은 ‘데이터’가 아니라 경험과 관심으로 가려내기 때문이다.

사람과 AI는 일하는 방식이 굉장히 다르다. AI는 사람들이 어려워하는 일을 잘 처리한다. 계산 가능한 영역에선 장점이 극대화된다. 하지만 감성적인 영역, 혹은 개인의 판단이 중요한 영역에선 어린아이도 하지 않을 실수를 범하곤 한다.

'A팀이 B팀과 축구경기에서 15대 0으로 이겼다'는 기사가 송고돼 왔다고 하자. 사람 편집자는 의심하고 다시 확인한다. 있음직하지 않은 일이기 때문이다. 하지만 '데이터'와 '알고리즘'이 지배하는 AI에겐 자연스러운 기사일 수도 있다.

데이터와 알고리즘은 보편적인 것에 지나치게 무게중심을 두는 경향이 있다. 뉴스의 다양성 측면에선 썩 좋은 특징은 아니다. 인터넷 서점이 주된 책 구입 수단으로 자리잡으면서 도서 시장에 '승자 독식 현상'이 심화된 것도 비슷한 차원의 문제다.

알고리즘으로 구동되는 AI 편집에 대한 불만은 한국에서도 자주 경험한다. 최근 포털 뉴스의 주요 기사는 대형 기업들의 자료 기사가 차지하는 경우가 많다. ‘빈도 수’ 같은 알고리즘을 적용한 편집 때문이다.

반면 ‘상큼하고’ ‘기발한’ 뉴스들은 주요 기사로 취급되는 경우가 극히 드물다. 노련한 사람 편집자들이 남다른 뉴스 안목으로 건져 올려줬던 기사들은 AI 편집 시대엔 힘을 발휘하지 못한다. 자주 포털 뉴스를 접하는 입장에선 역시 아쉬운 대목이다.

■ 더 심각한 건 AI의 인종 편향…심각한 사회문제 될 수도

둘째. AI의 인종 편견 문제를 어떻게 할 것인가.

사실 더 심각한 건 두 번째 문제다. 최근 미국을 중심으로 인종 차별 문제가 심각한 화두로 떠오르고 있다. 그런데 사람 못지 않게 인종 차별이 심한 것이 AI다.

AI는 백인 얼굴은 비교적 잘 가려낸다. 하지만 유색 인종은 헷갈리는 경우가 잦다.

왜 그런지 짐작하는 건 어렵지 않다. AI 개발을 백인 남성들이 주도하고 있기 때문이다. 그러다보니 AI가 ‘백인 남성 편향적’인 성향을 보인다는 지적은 꽤 오래 전부터 계속 제기돼 왔다.

물론 이번 사건은 간단한 해프닝에 불과할 수도 있다. 보기에 따라선, 그냥 웃어넘길 수도 있는 사안이다.

하지만 ‘AI 편집’과 ‘AI의 인종적, 젠더적 한계’를 드러냈다는 점에서 간단한 문제는 아닌 것 같다.

공교롭게도 ‘흑인 생명도 소중하다(Black Lives Matter)’는 시위가 전세계적으로 확산되고 있는 상황에서 나온 터라 더더욱 예사롭지 않아 보인다. 이런 생각이 더 강하게 울리는 건 우리가 ‘AI 시대’의 문턱에 서 있기 때문인 지도 모른다.