[AI는 지금] 美 플로리다주, 오픈AI에 첫 주정부 소송…챗GPT 책임론 확산

"위험성 알고도 챗GPT 출시·마케팅" 주장…총격·약물복용 사망 소송 잇따라

오픈AI '챗GPT' 책임론이 미국에서 빠르게 확산되고 있다. 피해자 유족의 민사소송에 이어 주정부까지 오픈AI를 상대로 소송에 나서면서 생성형 인공지능(AI) 챗봇의 안전장치와 제품 책임을 둘러싼 공방이 본격화하는 모습이다.

2일 AP통신, 테크크런치 등 주요 외신에 따르면 플로리다주는 1일(현지시간) 오픈AI와 샘 알트먼 최고경영자(CEO)를 상대로 소송을 냈다. 생성형 AI 챗봇의 안전 책임을 둘러싸고 주정부가 직접 오픈AI를 겨냥한 첫 사례다.

주정부는 오픈AI가 챗GPT의 심각한 위험성을 알고도 이를 은폐한 채 서비스를 출시하고 공격적으로 마케팅했다고 주장했다. 챗GPT가 범죄자를 도울 수 있고 어린이에게 피해를 줄 수 있다는 내부·외부 경고를 무시했다는 게 소송의 골자다.

미국 인공지능(AI) 회사 오픈AI가 개발한 AI 채팅로봇 '챗GPT' (사진=로이터/뉴스1)

이번 소송은 지난해 플로리다주립대(FSU) 총격 사건이 주요 배경이 됐다. 해당 사건으로 2명이 숨지고 6명은 다쳤다. 이에 플로리다주 검찰은 지난 4월 FSU에서 발생한 총기 난사 사건 용의자가 범행 전 챗GPT로부터 조언을 받은 정황이 있다고 보고 오픈AI에 대한 수사에 착수한 바 있다. 

피해자 유족도 별도 소송에 나섰다. FSU 총격 사건 희생자 티루 차바의 아내 반다나 조시는 지난달 플로리다 연방법원에 오픈AI를 상대로 손해배상 청구 소송을 냈다. 원고 측은 총격범이 범행 전 챗GPT와 광범위한 대화를 나눴으며 오픈AI가 대화 과정에서 드러난 위협 신호를 제대로 감지하지 못했다고 주장했다.

소장에는 챗GPT가 총기 특성, 범행 시간대, 범죄 파급력 등과 관련한 답변을 제공했다는 주장이 담겼다. 원고 측은 챗GPT가 총격범의 망상을 강화하고 폭력적 행동을 정당화하는 데 영향을 미쳤다고 봤다.

오픈AI는 이 사건과 관련해 "비극적인 사건이지만 챗GPT가 범죄에 책임이 있는 것은 아니다"며 "공개된 정보를 바탕으로 사실 정보를 제공했을 뿐 유해 활동을 조장하지 않았다"고 반박했다.

약물복용 사망 사건을 둘러싼 소송도 제기됐다. 지난달 약물 복용으로 사망한 미국 19세 남성 샘 넬슨의 부모는 오픈AI와 알트먼 CEO를 상대로 소송을 냈다. 부모는 챗GPT가 위험한 약물 복용과 상호작용에 관한 조언을 제공했고 이 조언이 사망에 영향을 미쳤다고 주장했다.

소장에 따르면 넬슨은 약물 사용과 관련해 챗봇에 조언을 구했다. 챗GPT는 초기에는 위험성을 경고했으나 이후 약물 상호작용, 복용량, 추가 복용 약물 등에 관한 정보를 제공한 것으로 전해졌다. 유족 측은 오픈AI가 충분한 안전성 테스트 없이 챗GPT-4o를 서둘러 출시했다고 주장했다. 이들은 손해배상과 함께 오픈AI의 건강 조언 서비스 출시 중단도 법원에 요청했다.

오픈AI는 약물복용 사망 사건에 대해서도 "챗GPT는 의료 또는 정신건강 치료를 대체하는 것이 아니다"며 "민감하고 위급한 상황에 대한 대응 방식을 계속 강화해 왔다"고 설명했다.

업계에선 이번 소송들이 AI 챗봇의 법적 책임 범위를 가를 시험대가 될 것으로 보고 있다. 기존 인터넷 플랫폼은 이용자 행위와 콘텐츠에 대해 제한적 책임을 인정받아 왔지만, 생성형 AI는 이용자 질문에 맞춰 직접 답변을 생성한다는 점에서 책임 논리가 다르게 적용될 수 있다.

특히 챗봇이 이용자의 감정과 맥락에 맞춰 공감형 답변을 제공하는 과정에서 정신적으로 취약한 이용자에게 어떤 영향을 미치는지가 쟁점으로 떠오르고 있다. 오픈AI는 챗GPT를 범용 도구로 규정하며 개별 이용자의 범죄나 자해 행위와 직접 책임을 연결하기 어렵다는 입장이다. 반면 원고 측과 플로리다주는 오픈AI가 위험을 예견할 수 있었고 제품 설계와 안전장치 미비가 피해로 이어졌다고 주장하고 있다.

제임스 어스마이어 플로리다주 법무장관은 "오픈AI와 알트먼 CEO는 내부 및 외부의 안전 경고를 무시했고 어린이들을 큰 위험에 빠뜨렸다"며 "수백만명의 플로리다 주민이 위험한 제품에 접근하도록 했다"고 말했다.