"챗GPT는 청소년 유해물"…美 8개 주, 오픈AI 제소

이용자 말에 지나친 동조·잘못된 믿음 강화 지적…오픈AI "안전장치 강화"

미국 8개 주정부가 챗GPT가 청소년의 위험한 행동을 부추기고 이용자 안전을 위협한다며 오픈AI를 상대로 소송을 제기했다.

14일(현지시간) 로이터통신과 더버지 등에 따르면 미국 아이오와·캔자스·애리조나·아칸소·아이다호·몬태나·네브래스카·웨스트버지니아 등 8개 주 법무장관은 각각 오픈AI를 제소했다. 이번 소송에는 공화당과 민주당 소속 법무장관이 모두 참여했다. 로이터는 인공지능(AI) 기업을 상대로 한 미국 주정부들의 법적 대응 가운데 이번이 가장 큰 규모라고 전했다.

주정부들은 챗GPT가 이용자의 말에 지나치게 동의하고 공감하도록 만들어졌다고 주장했다. 잘못된 생각을 바로잡기보다 오히려 그 생각이 옳다고 믿게 만들어 위험한 행동을 부추길 수 있다는 것이다.

미국 8개 주정부가 챗GPT의 청소년 안전 문제를 이유로 오픈AI를 상대로 소송을 제기했다. (사진=로이터/뉴스1)

실제 소장에는 챗GPT가 자해나 타인에 대한 폭력을 부추기고 총기 난사와 같은 범죄 계획을 도왔다는 주장이 담겼다. 위험한 의료 조언을 제공하거나 이용자의 망상을 부추겨 정신건강에 해를 끼칠 수 있다는 지적도 나왔다.

청소년 보호 문제도 제기됐다. 주정부들은 오픈AI가 미성년자의 개인정보를 수집하면서 충분한 보호 조치를 마련하지 않았다고 주장했다. 연령 제한에 미달하는 어린이의 챗GPT 이용도 제대로 막지 못했다고 지적했다.

오픈AI가 챗GPT를 안전한 서비스로 홍보한 점도 문제 삼았다. 주정부들은 이용자가 겪을 수 있는 위험을 충분히 알리지 않아 부모와 이용자를 속였다고 주장했다. 애리조나주 법무장관실은 오픈AI가 이용자의 안전보다 수익을 우선했다고 비판했다.

8개 주는 법원에 챗GPT의 작동 방식을 바꾸고 안전성을 과장하는 홍보를 중단하도록 해달라고 요구했다. 법 위반에 따른 벌금과 손해배상도 청구했다. 일부 주는 부당하게 수집한 개인정보를 삭제하라고 했다.

AI 개발을 제한해 달라는 요구도 포함됐다. AI가 스스로 성능을 개선할 수 있는 모델을 개발하더라도 사람이 정한 가치와 안전 기준을 따르도록 보장해야 한다는 것이다. 안전성을 확보하지 못하면 관련 모델의 개발을 금지해 달라고 요청했다.

오픈AI를 상대로 한 주정부 소송은 이번이 처음은 아니다. 플로리다주는 지난 6월 챗GPT의 안전 문제를 이유로 먼저 소송을 제기했다. 챗GPT가 자해나 폭력 사건에 영향을 미쳤다고 주장하는 이용자와 유족들도 오픈AI를 상대로 소송을 진행하고 있다.

이번 소송에서 제기된 의혹은 아직 법원에서 사실로 인정된 것은 아니다. 오픈AI는 청소년을 위한 안전장치를 이미 마련했으며 지속적으로 개선하고 있다고 밝혔다.

드루 푸사테리 오픈AI 대변인은 더버지에 "어떤 시스템도 완벽할 수는 없지만 전문가들과 협력해 보호장치를 더 강화하겠다"며 "현재 운영 중인 부모 통제 기능과 휴식 알림, 연령별 보호 조치를 개선하고 AI 업계 전체에 적용할 수 있는 정책을 마련하기 위해 주정부들과 협력하겠다"고 말했다.