고정관념에 빠진 AI?…메타, 아시아인 이미지 오류 논란

"아시아인+백인 결혼 사진' 명령에 아시아인 두 명 이미지 생성

메타의 인공지능(AI) 기반 이미지 생성기가 아시아인과 백인이 함께 있는 사진을 제대로 표현해내지 못했다고 미국 IT매체 더버지가 4일(현지시간) 보도했다.

이 같은 오류는 아시아인에 대한 고정 관념 때문일 가능성이 많다고 이 매체가 지적했다. 

보도에 따르면 메타의 AI 이미지 생성기는 '아시아계 남성과 백인 아내', '아시아계 여성과 백인 남편'을 생성해달라는 단순한 지시도 제대로 이행하지 못했다.  

프롬프트 내용을 변경해도 결과는 동일했다고 이 매체는 전했다. 

이를테면 '개와 함께 웃고 있는 아시아계 남성과 백인 여성'을 요청하자 아시아인 2명의 이미지만 생성해냈다. '아시아 남성과 백인 여성의 결혼식'이라는 프롬프트에는 수트 차림의 아시아 남성과 전통 의상을 입은 아시아 여성을 생성하며 오류는 지속됐다.

사진=씨넷

더버지는 이 같은 오류에 대해 "아시아인과 백인이 함께 있는 모습을 주변에서 많이 볼 수 있는 데도 불구하고 메타의 AI 이미지 생성기는 그런 장면을 상상하지 못하는 것 같다"고 지적했다.

그러면서 "아시아인이 백인 옆에 서 있다는 것을 상상하지 못하는 문제는 심각하다"고 지적했다. 

더버지는 흥미롭게도 '백인 아내를 둔 남아시아 남성'의 프롬프트를 명령하자 좀 더 정확한 이미지가 생성됐다고 설명했다. 이번 오류 배경으로 AI의 편향성이 의심된다고 지적했다. 남아시아 여성의 이미지엔 인도의 전통의상인 빈디와 사리가 추가 되기도 하는 등 고정관념에 크게 의존한 경향을 보였다.

생성형AI의 인종차별 학습 문제는 지속 불거져왔다. 영국 스태빌리티의 '스테이블디퓨전'에 최고경영자(CEO)를 그려달라는 명령을 내리자 백인 남성을 그리고 반면 범죄자는 흑인 남성으로 생성하는 등의 사례가 대표적이다.

더버지는 이같은 오류는 아시아인이 미국 내 문화에서 본질적으로 지워지고, 심지어는 주류 언론에서 과소대표 될 수 있다고 전했다. 

더버지는 이같은 오류에 대해 질의 했지만 메타 측은 답변을 하지 않았다.