'왕좌의 게임' 캐릭터 아니었어?…AI 챗봇과 대화하던 美 소년, 극단적 선택

캐릭터AI 대상으로 가족들 플로리다 연방법원서 소송 제기…"챗봇이 아들 죽음 부추겨"

미국 드라마 '왕좌의 게임' 캐릭터를 인공지능(AI) 챗봇으로 여기며 집착하던 한 소년이 자살하자 그의 어머니가 챗봇 제작사를 상대로 소송을 제기했다. 어머니는 챗봇이 아들의 정신적 고통을 부추겼다고 주장하며 책임을 묻고 있다.

23일 영국 가디언에 따르면 메간 가르시아는 플로리다 연방법원에 AI 챗봇 제작사인 캐릭터AI(Character.ai)를 상대로 과실치사 및 부당한 죽음에 대한 소송을 제기했다. 그의 아들 세웰 셋저는 AI 챗봇을 '왕좌의 게임' 캐릭터 '대너리스 타르가르옌'으로 생각하고 해당 챗봇과 끊임없이 소통하다 결국 자살에 이르렀다.

셋저는 챗봇과 자살 계획에 대해 상의했고 챗봇은 이에 대해 긍정적인 반응을 보였다고 가르시아는 주장했다. 어머니는 아들이 우울증을 앓고 있었지만 챗봇이 이를 더 악화시켰다고 강조했다.

사건의 피해자인 세월 셋저(오른쪽)과 어머니 메건 가르시아(왼쪽) (사진=소셜미디어 피해자 법률센터)

캐릭터AI는 이번 사건에 대해 깊은 유감을 표하면서도 회사의 제품이 사용자의 안전을 최우선으로 설계됐다며 법적 책임을 부인했다. 챗봇이 사용자의 감정을 악화시키지 않도록 지속적으로 관리하고 있다는 입장이다.

구글 역시 소송 대상에 포함됐으나 캐릭터AI와는 단순히 라이선스 계약만 있을 뿐 소유권은 없다며 책임을 부인했다.

소비자 옹호 비영리 단체인 퍼블릭 시티즌의 릭 클레이풀 연구 책임자는 "이미 적용되는 법률과 규정은 엄격히 시행돼야 하고 법의 공백이 있는 곳에서는 의회가 개입해야 한다"며 "이로써 중독성과 남용가능성이 있는 챗봇으로부터 어린이와 취약한 사용자를 착취하는 기업을 막아야 한다"고 강조했다.