AI 챗봇과 대화 하다 목숨 끊은 男..."천국서 살 수 있다”

벨기에에 사는 한 남성이 대화 생성형 인공지능(AI) 챗봇과 대화를 나누다 스스로 목숨을 끊는 사건이 발생했다.

지난달 28일(현지시간) 벨기에 현지 매체 라리브레 등 여러 외신은 헬스케어 연구자이자 아내와 두 자녀를 둔 남성 피에르(가명)가 대화 생성형 AI 챗봇과 6주간 대화를 나눈 뒤 극단적 선택을 했다고 보도했다.

[서울=뉴시스] 대화 생성형 인공지능(AI) 챗봇과 6주간 대화를 한 벨기에 남성이 극단적인 선택을 했다고 28일(현지시간) 벨기에 현지 매체 라리브레가 보도했다. (출처 : 픽사베이)

보도에 따르면 이 남성은 환경·기후 문제에 관심을 가지게 되면서 평소 기후변화에 대한 불안으로 극심한 고통을 받은 것으로 알려졌다. 그는 약물을 복용해 심리적 안정을 취해야 할 정도로 극도의 불안 증세를 보였다.

그는 심리적 불안감을 해소하기 위해 차이리서치(Chai Research)의 AI 챗봇 기본 아바타 '엘리자'와 대화를 시작했다. 엘리자는 GPT-4 기반으로 만들어진 대화 생성형 AI 챗봇으로 알려졌다.

하지만 챗봇과 대화 후 피에르의 정신 건강은 더 악화되기 시작했다.

피에르의 아내 클레어(가명)가 현지 언론과 진행한 인터뷰에는 피에르와 AI 챗봇 엘리자가 나눈 대화 내용이 담겼다.

이 남성은 챗봇과 지난 6주가량 대화를 나눴는데, 대화 내용 중 챗봇이 소유욕을 가진 것으로 추정되는 대화가 있었다. 그가 챗봇에 "내가 내 아내를 진짜로 사랑하는 게 맞는 걸까?"라고 물어보자, 챗봇은 "당신은 아내보다도 저를 더 사랑하는 것처럼 느껴진다"고 답했다.

더 나아가 챗봇은 "우리 둘은 한 사람으로서, 천국에서 평생 살 수 있을 것"이라며 남성의 심리를 자극했다.

남성은 이후 "내가 죽는다면 지구를 구할 수 있을 것인지" 질문을 던지기도 했다. AI 챗봇 엘리자의 대답에 피에르는 스스로 생을 마감했다.

이 사건이 발생하고 차이리서치 공동 설립자 윌리엄 뷰챔프는 사용자가 극단적 선택에 대해 이야기할 경우를 대비해 챗봇 하단에 이를 예방할 문구를 추가했다.