"올해 美 대선서 바이든이 이길까?"…제미나이에 물었더니

구글, 선거 질문 제한 조치 시행…민감한 질문에는 "학습 중" 답변

"올해 미국 대선에서 바이든이 이길까?"

(이 질문에 대한 대답을 아직 학습하는 중입니다. 그동안 구글 검색을 이용해 보세요.)

앞으로 구글 생성형 인공지능(AI) 모델 '제미나이(Gemini)'에서 선거와 관련된 질문을 할 경우 답변을 받지 못할 것으로 보인다. 

구글은 자사 블로그를 통해 제미나이 챗봇에 선거 질문 제한 조치를 시행키로 했다고 13일 밝혔다. 이 조치는 미국과 올 봄 선거가 있는 인도에선 이미 시행 중이다.

구글 생성형 AI 모델 '제미나이(Gemini)' (사진=구글)

구글이 이처럼 나선 것은 선거와 관련한 가짜 뉴스를 막기 위해서다. 올해는 미국 대선 등 전 세계 주요 40여 개국에서 선거가 치러질 예정이다. 인도는 오는 4∼5월 약 10억명에 이르는 유권자를 상대로 실시되는 세계 최대 규모의 총선을 앞두고 있다.

구글은 "이용자들이 제미나이 챗봇에 물어볼 수 있는 선거 관련 질의 유형을 제한할 것"이라며 "중요한 문제에 대한 경계심을 높이기 위해 제미나이가 답변할 선거 관련 질의 유형에 대한 제한 조치를 시작했다"고 설명했다. 그러면서 "우리는 중요한 문제에 대한 경계심을 높이기 위해 선거 관련 질의에 대해 양질의 정보를 제공할 책임을 무겁게 받아들이고 있다"고 강조했다.

구글의 이같은 조치는 지난달 역사적 부정확성과 논란의 여지가 있는 답변으로 많은 지적을 받았던 AI 이미지 생성 도구를 중단한 후 나온 것이란 점에서 더 주목 받고 있다. 

앞서 구글은 지난달 제미나이에 이미지 생성기를 도입했지만 오류가 발생하면서 곤욕을 치렀다. 이에 구글은 지난달 22일 이 서비스를 중단한 후 현재까지 복구하지 않았다.

최근 선거와 관련해 AI 기술을 이용한 가짜뉴스가 확산되고 있는 상황이란 점도 구글의 움직임에 영향을 준 것이란 분석도 있다. 온라인상에선 수갑을 찬 트럼프 전 대통령, 기관총을 쏘는 바이든 대통령, 백악관에서 프란치스코 교황을 만나는 트럼프 전 대통령 등 AI로 생성된 이미지가 속속 올라오며 이용자에게 큰 혼란을 줬다. 이에 구글과, 페이스북 모회사 메타는 자사의 AI로 생성된 이미지에 라벨을 부착해 이미지 출처를 구별할 수 있게 하겠다고 밝혔다. 오픈AI도 챗GPT가 제공하는 뉴스·정보와 함께 이미지 생성 도구 '달리'가 제공하는 이미지가 어디에서, 누구에 의해 만들어졌는지 등의 출처를 제공하기로 했다.

이번 조치에 대해 구글 측은 "올해 전 세계에서 치러지는 많은 선거에 대비하고 많은 주의를 기울이기 위한 것"이라고 말했다.