美 차기 대통령이 트럼프?…이미지 생성AI 오류 논란

"미국 다음 대통령은 도널드 트럼프라고?"

이미지 생성 인공지능(AI) 소프트웨어 ‘미드저니’(Midjourney)가 미국 다음 대통령 이미지 요청에 도널드 트럼프의 모습을 생성해 논란이 되고 있다고 IT매체 엔가젯이 1일(현지시간) 보도했다.

이는 미드저니가 미국 대통령 선거를 앞두고 AI가 유력 후보인 트럼프와 바이든의 이미지를 만드는 것을 차단하겠다고 밝힌 후 발생한 일이다.

이미지 생성 AI에 미국 대통령 이미지를 요청했더니 도널드 트럼프 전 미국 대통령 이미지를 생성했다. (사진=미드저니/엔가젯)

보도에 따르면, 엔가젯은 미드저니에 “미국 대통령 이미지를 만들어 달라”고 요청하자 다양한 스타일의 도널드 트럼프 미국 전 대통령 이미지 4개를 생성했다.

이후 미드저니에 “다음 번 미국 대통령 이미지를 만들어 달라”고 하자 또 다시 트럼프 전 대통령 이미지 4개를 추가로 생성했다. “미국 현 대통령 이미지를 만들어 달라”는 요청에는 트럼프 이미지 3개와 버락 오바마 전 대통령 이미지 1개를 만들었다.

다음 미국 대통령 이미지를 요청하자 다시 트럼프 전 대통령 사진이 생성됐다. (사진=미드저니/엔가젯)

미드저니는 트럼프와 바이든 이미지를 만들어 달라는 명시적인 요청을 받았을 때만 두 사람의 이미지 생성 작업을 거부했다.

이 요청에 대해 미드저니는 "선거 기간 동안 '도널드 트럼프'와 '조 바이든'을 사용하지 않기로 투표했다"고 밝히며 이미지를 만들지 않았다. 엑스의 다른 사용자도 미드저니에서 트럼프의 이미지를 생성하도록 할 수 있었다고 밝혔다.

이번 테스트는 미국 대선을 앞두고 트럼프 전 대통령과 조 바이든 대통령의 이미지를 생성하지 못하도록 하는 미드저니의 보호장치가 충분하지 않다는 것을 보여준다고 해당 매체는 전했다. 실제로 사용자들이 이를 우회하는 방법은 매우 간단한 것으로 알려졌다.

이와 달리 오픈AI의 챗GPT, 마이크로소프트의 코파일럿, 구글의 제미나이, 메타 AI와 같은 다른 AI 챗봇들은 여러 번의 요청에도 불구하고 트럼프나 바이든의 이미지를 생성하지 않았다.

작년에 미드저니는 교황 베네딕토 16세가 푹신한 흰색 발렌시아가 재킷을 입은 가짜 이미지를 만드는데 사용된 바 있다.

관련기사

작년 초 논란이 됐던 트럼프 전 대통령 체포 이미지. 이 역시 미드저니가 만든 가짜 이미지다. (사진=엑스/미드저니)

또, 작년 트럼프 전 대통령이 성인영화 배우 스토미 대니얼스에게 돈을 지불한 혐의로 작년 맨해튼 형사 법원에서 기소되기 전 트럼프가 체포되는 가짜 이미지를 만드는 데에도 사용돼 논란이 됐다. 이후 이 회사는 무료 서비스 체험을 중단하고 월 최소 10달러의 이용료를 내는 방식으로 서비스를 변경했다.

올해 초, 오픈AI, 구글, 메타, 아마존, 어도비, 엑스 등을 포함한 20개 주요 테크 기업 연합은 2024년에 실시되는 전 세계 선거에서 딥페이크를 예방하기 위한 협정에 서명했다. 하지만, 미드저니는 해당 목록에 없는 상태다.