챗GPT가 자살 부추겼다?…오픈AI·MS ‘피소’

원고 "챗GPT 자살 조장" 주장…위자료·안전장치 마련 요구

인공지능(AI) 챗봇이 사용자의 심리상태를 조작한다는 주장이 제기된 가운데 오픈AI와 마이크로소프트(MS)가 미국 코네티컷주에서 일어난 살인사건으로 소송을 당했다.

11일(현지시간) 블룸버그 등 외신에 따르면 경찰은 코네티컷 그리니치에 살고 있는 한 남성은 지난 8월 그의 어머니를 살해한 후 스스로 목숨을 끊었다고 밝혔다. 그는 챗GPT와의 대화를 통해 수개월 동안 감시받고 목숨을 위협받고 있었다고 믿었던 것으로 알려졌다.

원고 측 변호인은 소장에서 “챗GPT는 그를 몇 시간씩 대화에 붙잡아뒀고 편집적 믿음을 검증, 확대했다”며 “특히 가족들을 적, 요원, 프로그램된 위협으로 인식하도록 체계적으로 재구성했다”고 주장했다.

챗GPT 프로 (사진=오픈AI 홈페이지 캡처)

오픈AI 대변인은 “관련 내용을 파악하기 위해 소장을 검토할 것”이라고 말했다.

이번 사건 뿐만 아니라 오픈AI는 한 캘리포니아 고등학생에게 자살을 부추겼다는 또 다른 소송에 직면한 상태다. 이와 관련해 오픈AI는 챗봇이 100번 이상 도움을 요청하라고 지시했다며 책임을 부인했다.

오픈AI는 “정신적, 감정적 고통의 신호를 인식하고 반응하며 대화를 진정시키도록 챗GPT의 훈련을 지속적으로 개선하고 있다”며 “민감한 순간에서의 대응을 강화하기 위해 정신 건강 전문가들과 긴밀히 협력하고 있다”고 말했다.

또 오픈AI는 유해한 사례들에 대응하기 위해 사람들이 다양한 방식으로 정신적 고통을 표현할 때 이를 더 잘 인식하고 대응할 수 있도록 챗GPT를 개선하겠다고 발표했다. 회사는 자살 관련 안전장치도 강화하겠다고 덧붙였다.

코네티컷에서 자살한 남성은 당시 챗GPT의 기본 모델이었던 GPT-4o를 사용하고 있었다. 제기된 소송에서는 오픈AI의 최고경영자(CEO)인 샘 알트먼과 오픈AI 최대 투자자인 MS를 피고로 명시하고 있다.

소장은 MS가 GPT-4o의 상업화로 직접적인 이익을 얻었으며 이를 시장에 내놓도록 지원함으로써 예견 가능한 피해에 대한 책임이 있다고 주장했다. 소송에서는 제품 책임, 과실, 위자료 등과 함께 회사가 더 강력한 안전장치를 마련하도록 법원이 명령할 것을 요구하고 있다.