"챗GPT가 내 이름 어떻게 알았지?…무섭다"

"알려준 적 없는 데 언급" 사례 빈발…이용자들 반발

오픈AI의 생성형 인공지능(AI) 챗봇인 챗GPT가 알려준 적도 없는 이용자의 이름을 부르는 일이 발생해 논란이 일고 있다. 일부 챗GPT 이용자들은 "소름 끼치는 일이다"면서 공포에 질리기도 했다고 IT매체 테크크런치가 최근 보도했다.

보도에 따르면, 일부 사용자들이 챗GPT가 답변 도중 자신의 이름을 언급해 깜짝 놀랐다고 주장했다.

최근 챗GPT 사용자들이 챗GPT가 답변 도중 자신의 이름을 부른다고 주장하고 있다. 사진은 오픈AI 로고 (출처=씨넷)

개발자 닉 도보쉬(Nick Dobos)는 “정말 싫다”라고 말했고, 소프트웨어 개발자 시몬 윌슨(Simon Willison) 역시 "소름 끼치고 불필요하다"고 목청을 높였다. 그런가 하면 한 사용자는 "선생님이 계속 이름을 부르는 것 같다"며 불쾌감을 표했다. 엑스로 검색하면 챗GPT가 자신의 이름을 불렀다는 많은 이용자의 의견을 볼 수 있다.

테크크런치는 "해당 기능이 언제부터 적용됐는지, 챗GPT가 최근 개선한 ‘메모리 기능’과 관련이 있는 지 확실치 않다”고 전했다. 업그레이드된 메모리 기능을 사용하면 챗봇이 과거 채팅 내용을 바탕으로 답변을 개인화할 수 있다.

엑스의 일부 사용자는 메모리 기능 및 관련 개인화 설정을 비활성화했음에도 불구하고 챗GPT가 답변 도중 자신의 이름을 부르기 시작했다고 밝혔다. 오픈AI는 테크크런치의 논평 요청에 아직 응하지 않았다.

일부 사용자들은 챗봇이 자신의 이름을 부르는 것에 대해 불쾌함을 표시했다. (사진=챗GPT AI 생성)

사용자의 이런 반발은 오픈AI가 더욱 개인화된 서비스를 제공하는 과정에서 발생한 문제라고 분석했다. 특히 이 매체는 "(개인화 서비스) 과정에서 극복하기 힘들 수 있는 불쾌한 골짜기를 보여준 것"이라고 지적했다. 

지난 주 샘 알트먼 오픈AI 최고경영자(CEO)는 “삶을 통해 사용자를 알아가는 인공지능(AI)은 ‘매우 유용하고 개인화된’ 시스템이 될 것”이라고 밝혔다. 하지만, 이번 사례를 통해 개인화된 서비스라는 아이디어에 모두가 동의하는 것은 아니라고 외신들이 지적했다. 

오픈AI는 챗GPT를 개인 맞춤형 비서로 만들려는 목표를 갖고 있다. 하지만 "감정이 없는 챗봇이 사람의 이름을 부르면 서투른 의인화 시도로 느껴질 수 있다"고 외신들이 지적했다. 빵을 굽는 토스터기가 자신 이름을 부르는 것을 원치 않는 것과 비슷한 상황이라는 것이다.