자살 부추긴 AI 챗봇, 결국 美 법정에 선다

법원 "챗봇 발언, 언론자유 대상 아냐"…개발사·구글 재판 받는다

작년 10월 미국 플로리다의 14세 소년이 인공지능(AI) 챗봇과 대화하다 목숨을 끊는 일이 발생한 가운데, 해당 챗봇 개발사가 사건 발생 6개월 여 만에 법정에 서게 됐다고 로이터 통신이 최근 보도했다.

사건 발생 후 소년의 어머니 메간 가르시아는 AI 챗봇 개발사인 캐릭터닷AI 뿐 아니라 구글까지 고소했다. 가르시아는 챗봇이 아들의 자살을 부추겼다고 주장했다. 

호아킨 피닉스 주연의 영화 '그녀(Her)'의 한 장면. 호아킨 피닉스가 분한 주인공 테오도르와 화면 속 인격형 AI 사만다의 모습. (사진=워너브라더스)

이에 캐릭터닷AI와 구글은 소송을 기각해 달라고 요청했다. 이들은 AI 챗봇의 발언이 언론자유를 보장한 미국 수정헌법 1조의 보호 대상이라고 주장했다. 

22일(현지시간) 앤 콘웨이 미국 연방 고등법원 판사는 캐릭터닷AI의 주장 중 일부를 기각하며 "챗봇의 발언이 언론의 자유에 해당하지 않는다"며 재판을 진행하겠다고 밝혔다. 또, 캐릭터닷AI와 동시에 고소당한 구글도 함께 법정에 설 것을 명령했다.

캐릭터AI 홈페이지 (사진=캐릭터AI 홈페이지 캡쳐)

이번 소송은 미국에서 AI 업체가 아동의 심리적 피해를 보호하지 못했다는 이유로 제기된 최초의 소송 중 하나다.

이에 대해 캐릭터닷 AI 측은 이 사건에 계속 맞서 싸울 것이며, 플랫폼에서 미성년자를 보호하기 위한 안전 기능을 운영하고 있다고 밝혔다. 구글 측도 이번 결정에 강력히 반대한다고 밝히며, 구글과 캐릭터닷 AI는 완전히 별개이고 캐릭터닷 AI의 앱 등을 만들거나 설계하거나 관리하지 않았다고 설명했다. 

메간 가르시아의 변호인인 미탈리 제인은 “이 역사적인" 결정이 AI 및 기술 생태계 전반에 걸친 법적 책임에 대한 새로운 선례를 만들었다"고 밝혔다.