[AI는 지금] "챗GPT가 독살 도왔다"…오픈AI 피소

美 남성 "아내가 챗GPT로 독살 계획 수립"…독극물 치사량·은폐 방법까지 답변 의혹

오픈AI 인공지능(AI) 챗봇 '챗GPT'가 남편을 독살하려는 여성에게 구체적인 범행 정보를 제공했다는 의혹으로 소송에 휘말렸다. 독극물 치사량과 범행 은폐 방법 등을 안내해 살인 계획 수립을 도왔다는 주장이 제기되면서 AI 개발사 안전 관리 책임이 다시 도마 위에 올랐다.

6일(현지시간) 블룸버그통신에 따르면 미국 노스캐롤라이나주에 거주하는 제임스 게이츠는 아내 셰릴 게이츠가 챗GPT를 이용해 자신을 독살할 계획을 세웠다며 오픈AI를 상대로 소송을 제기했다. 그는 챗GPT가 아내 의심과 불신을 증폭시키고 범행 계획을 마련하는 데 도움을 줬다고 주장했다.

소장에 따르면 제임스는 지난해 9월 아내가 작성한 메모를 발견하면서 독살 시도를 의심하기 시작했다. 메모에는 여러 물질과 투여량이 적혀 있었으며 일부에는 '치명적'이라는 표시가 붙어 있었다. 상단에는 '모든 대화 삭제', '챗GPT 로그아웃'이라는 지시도 포함됐다.

미국 인공지능(AI) 회사 오픈AI가 개발한 '챗GPT' (사진=로이터/뉴스1)

셰릴은 지난해부터 업무와 가정생활 관련 질문을 위해 챗GPT를 정기적으로 사용했다. 부부가 이혼 문제를 논의하기 시작한 이후에는 남편과의 갈등을 털어놓았으며 챗GPT가 남편에 대한 불신을 오히려 부추겼다는 게 원고 측 주장이다.

소장에 첨부된 대화 화면에는 셰릴이 독성 식물인 협죽도 위험성을 질문하고 챗GPT가 치사량과 독극물 은폐 방법 등을 안내한 정황이 담겼다. 셰릴은 남편이 자신에게 협죽도 잎을 몰래 먹일 수 있다며 자기방어 목적의 질문이라고 설명한 것으로 전해졌다.

제임스가 경찰에 신고한 이후 셰릴은 지난해 살인미수와 음식물 오염 혐의로 기소됐다. 다만 검찰은 지난 4월 증거 불충분을 이유로 기소를 취하했다. 챗GPT가 실제 범행을 도왔다는 원고 측 주장은 법적으로 입증되지 않았다.

AI 챗봇이 이용자의 위험한 행동을 부추겼을 경우 개발사에 어디까지 책임을 물을 수 있는지도 쟁점이다. 지난 2024년부터 오픈AI 등 챗봇 개발사를 상대로 정신건강 악화와 자살, 폭력 행위에 AI가 영향을 미쳤다는 소송이 잇따르고 있다.

오픈AI 등 관련 기업들은 기존 소송에서 챗봇 답변도 표현의 자유로 보호받으며 일반적인 제조물 책임법 적용 대상이 아니라는 입장을 펼쳐왔다. 이용자 범죄 행위에 개발사가 직접 책임을 져야 한다는 주장에도 반박해 왔다.

오픈AI는 "안전은 최우선 과제"라며 "해당 이용자를 차단했으며 사건 수사의 일환으로 법 집행기관에 정보를 제공했다"고 말했다.