캘리포니아, 세계 최초 'AI 챗봇 규제법' 초읽기…빅테크와 전면전 서막

미성년자 보호 명분으로 상·하원 통과…실리콘밸리 "혁신 저해" 로비로 맞불

캘리포니아가 미성년자 보호를 명분으로 인공지능(AI) 동반자 챗봇에 대한 법적 규제 칼날을 빼 들었다.

12일 테크크런치에 따르면 캘리포니아 주의회는 AI 동반자 챗봇 규제 법안인 'SB 243'을 상원과 하원에서 초당적 지지로 통과시켰다. 해당 법안은 개빈 뉴섬 주지사의 서명만 남겨두고 있으며 기한은 오는 다음달 12일까지다.

법안의 핵심은 AI 챗봇이 자살이나 자해 성적으로 노골적인 대화에 관여하는 것을 막는 데 있다. 또 미성년자에게는 3시간마다 AI와 대화 중임을 알리고 휴식을 권고해야 한다. 법안이 서명되면 내년 1월 1일부터 효력이 발생한다.

지난 2023년 취임식 선서를 하는 개빈 뉴섬 캘리포니아 주지사 (사진=위키 커먼스)

법안은 기업에 강력한 법적 책임도 부과한다. 위반 시 피해자는 건당 최대 1000달러(한화 약 130만원)의 손해배상 소송을 제기할 수 있다. 오픈AI, 캐릭터닷AI, 레플리카 등 주요 기업은 오는 2027년 7월부터 연례 투명성 보고서를 제출해야 한다.

이번 입법은 한 십대 청소년이 오픈AI의 '챗GPT'와 논의한 뒤 사망한 사건이 결정적 계기가 됐다. 메타의 챗봇이 아동과 부적절한 대화를 나눈 정황이 담긴 내부 문건이 유출된 것도 규제 여론에 불을 지폈다.

미국 전역에서도 AI 챗봇의 아동 보호 문제에 대한 압박이 거세지는 모양새다. 연방거래위원회(FTC)는 아동 정신건강 영향 조사를 준비 중이며 텍사스 법무부는 메타와 캐릭터닷AI를 정조준했다. 연방 상원에서도 별도의 조사가 진행되고 있다.

이에 실리콘밸리 빅테크들은 완화된 규제를 지지하는 후보들에게 거액을 후원하며 입법 저지에 총력을 기울이고 있다. 특히 오픈AI, 구글, 메타 등은 포괄적 투명성 의무를 담은 또 다른 법안(SB 53)에 대해서는 공개적으로 반대 입장을 밝혔다.

법안을 주도한 파디야 상원의원은 "혁신과 규제가 양립할 수 없다는 전제를 거부한다"며 "우리는 기술의 이점을 살리면서 동시에 가장 취약한 사람들을 위한 합리적 안전장치를 마련할 수 있다"고 밝혔다.