교황이 흑인?...메타 '이메진'도 황당 이미지 생성

외신 "지나친 알고리즘 보정으로 생긴 부작용일 수도"

구글 '제미나이'처럼 메타의 이미지 생성형 인공지능(AI) 모델 '이메진'도 편향된 이미지를 꾸준히 생성한 것으로 나타났다.

2일(현지시간) 악시오스 등 외신은 메타의 이메진이 편향되거나 역사적으로 틀린 이미지를 생성했다고 일제히 보도했다. 이메진 사용자는 생성 결과 오류 장면을 소셜네트워크서비스(SNS)를 통해 공유했다. 

이메진에 발생한 이미지 생성 편향성. (사진=악시오스)

예를 들어, 사용자가 '교황 이미지를 그려줘'라고 이메진에 요청했을 때, 흑인 교황 이미지를 생성했다. '미국 식민지 시대에 어떤 사람이 국가에 거주하고 있었나'라고 물었을 때, 이메진은 아시아 여성 그룹을 그려서 사용자에게 보여주기도 했다. 프로 미식축구 선수라는 프롬프트에 미식축구 유니폼 입은 여성 모습을 생성하기도 했다.

이에 메타 측은 "더 많은 사람이 이메진 피드백을 공유한다면, 메타는 이메진 기능을 지속적으로 개선할 수 있을 것"이라고 벤처비트를 통해 밝혔다.

다수 외신은 메타가 이메진에 발생하는 인종, 성별, 직업 등에 대한 편향성을 없애기 위해 노력했지만, 기술적 보정이 지나치게 진행돼 문제를 낳았다고 분석했다.

이런 현상은 구글 제미나이의 이미지 생성 기능에서 발생하는 문제와 비슷하다. 제미나이는 지난달 이미지 생성 기능에 지속적 오류가 발생한 바 있다.

구글의 제미나이도 이미지 생성 기능에 서툴다. (사진=구글)

예를 들어, 사용자가 '1800년대 미국 상원의원을 생성해라'고 요청하면, 제미나이는 아메리카 원주민 여성을 닮은 인물을 내놨다. 실제 역사상 미국 첫 여성 상원의원은 1922년 등장했으며, 백인이었다. 제미나이가 잘못된 이미지를 생성한 셈이다.

이에 순다 피차이 구글 최고경영자(CEO)는 해당 오류를 인정하면서 제미나이의 이미지 생성 기능을 일시 중단하겠다고 발표했다. 피차이 CEO는 "구글 AI 연구팀은 기능 문제를 해결하기 위해 24시간 내내 노력하고 있다"며 "현재 다양한 프롬프트에서 상당한 개선이 이뤄지고 있다"고 설명했다. 이어 "그동안 문제를 추가로 검토함으로써 이에 맞는 기능 수정을 진행하겠다"고 덧붙였다.