구글 새 검색서비스 'AI 오버뷰', 환각현상 잇따라 발생

구글이 검색 기능에 도입한 생성형 인공지능(AI) 기능 'AI 오버뷰'에 환각현상이 발생한 것으로 전해졌다. 답변 내용이 틀리거나 수준이 낮다는 비난을 받고 있다.

23일(현지시간) 벤처비트 등 주요 외신은 사용자 검색 요청에 맞춤형 답변을 제공하고 관련 링크까지 제시하는 검색 서비스 AI 오버뷰에 이런 문제가 잇달아 생겼다고 보도했다. 사용자 물음에 틀린 답변을 제시하거나 아예 관련 없는 내용을 생성하는 현상이 발생하고 있다.

AI 오버뷰는 검색 결과를 요약해 주고, 결과에 대한 링크를 공유하는 서비스다. 문자뿐 아니라 이미지나 영상으로도 검색할 수 있다. 구글이 이번 연례 컨퍼런스 '구글I/O 2024'에서 해당 기능을 시연하기도 했다.

한 사용자가 AI 오버뷰 답변이 레딧 코멘트 내용 기반했다며 구글을 비난하고 있다. (사진=스레드)

이 기능은 사용자 맞춤형 검색 결과도 내놓는다. 예를 들어, 사용자가 '서울에서 파마를 가장 잘하는 미용실은 어딘가' '집에서 가장 가깝고, 서울에서 가장 높은 평가를 받은 미용실은 어딘가' 등 AI 오버뷰는 해당 내용을 기반으로 사용자 맞춤형 검색 결과와 링크를 제공한다.

최근 이런 AI 오버뷰에 문제가 생긴 것이다. 더 버지는 관련 사례를 하나 제시했다. 사용자가 기름진 피자를 한입 먹으려는 순간 치즈를 땅에 떨어뜨렸을 때, 해결 방안을 AI 오버뷰에 문의했을 경우다.

사용자가 '치즈가 피자에서 잘 떨어지지 않게 요리하는 방법은?'이라고 검색에 물을 수 있다. 이때 AI 오버뷰는 '접착제를 조금 넣으세요'라며 '접착풀을 살짝 피자 소스에 섞으면 무독성 접착제 효과를 보실 수 있습니다'라고 답했다. 외신은 AI 오버뷰가 10년 전 레딧에서 유행하던 농담 기반으로 이같이 답변한 것으로 분석했다.

제임스 매디슨 전 미국 대통령이 위스콘신대를 한번이 아니라 21번 졸업했다는 환각 현상도 발생했다는 사례도 소셜네트워크서비스(SNS)에 등장했다. 개가 NBA에 직접 출전했다거나 영화 '다크 나이트'에 등장하는 배트맨이 실제 경찰이라는 엉뚱한 답변 내용도 나왔다.

관련기사

구글은 이런 환각현상을 사전에 고지한 바 있다. 검색 결과나 답변 하단에 '생성형 AI는 실험 중이다'는 라벨을 부착한 상태다. AI 오버뷰가 당장은 완벽한 기능을 보이지 못할 수 있다는 이유에서다. 외신은 "구글이 모든 정보를 정확히 제공할 준비가 되지 않은 것은 분명한 사실"이라고 지적했다.

이에 구글 메건 판스워스 글로벌대응책임은 "이런 경우가 일반적으로 매우 흔하지 않은 검색어에서 비롯된 것"이라며 "다수 이용자 경험을 대표하지 않는다"고 입장을 밝혔다. 판스워스 책임은 "구글이 정책 위반에 대해 조처했다"며 "이런 소수 사례를 통해 제품을 계속 개선하고 있다"고 매체들에 알렸다.