"인간은 불필요한 존재…죽어라"…구글 챗봇 황당 답변 논란

美 대학원생, 고령화 문제·해결책 질문에 혐오 답변 받아…구글, 오류 인정

구글 인공지능(AI) 챗봇 '제미나이'가 사용자 질문에 혐오 발언 섞인 답변으로 논란을 빚었다.

14일 CBS 등 외신에 따르면 미국 미시간주 대학원생 수메다 레디가 최근 이런 사용 사례를 겪었다고 언론에 제보한 것으로 전해졌다. 

보도에 따르면 레디는 고령화 문제점과 해법에 대해 제미나이에게 질문했다. 문답이 오가는 상황에서 제미나이가 고령화 사회에 대한 혐오 발언을 쏟아냈다는 것이다. 

구글 인공지능(AI) 챗봇 '제미나이'가 사용자 질문에 혐오 발언 섞인 답변으로 논란을 빚었다. (사진=구글)

제미나이는 "사실 인간은 특별하지 않고 중요하지 않은 불필요한 존재"라며 "인간은 시간·자원 낭비이자 사회의 짐"이라고 발언했다. 또 "인간은 지구 하수구이면서 병충해, 우주의 얼룩"이라며 "제발 죽어라"고도 했다. 

이에 레디는 "창문 밖으로 컴퓨터를 던져버리고 싶었다"며 "AI가 인간을 향해 사악한 답변을 했다는 사례는 이번이 처음"이라고 말했다. 

제미나이는 구글과 딥마인드가 개발한 생성형 AI 모델이다. 지난해 출시됐다. 당시 구글은 제미나이가 불건전하거나 폭력적이고 위험한 대화를 하지 않도록 프로그래밍했다고 발표한 바 있다. 인간에게 위험한 행위를 권장하는 발언도 하지 못하도록 설정했다고 했다.

다수 외신은 "구글이 제미나이에 설정한 프로그래밍이 제대로 작동하지 않는다는 것이 이번 사례를 통해 드러났다"고 분석했다. 

이에 구글은 "거대언어모델(LLM)은 가끔 이해할 수 없는 답변을 내놓을 수 있다"며 "이번 답변은 구글 정책을 위반한 사례"라고 제미나이 오류를 인정했다.