앤트로픽, 캘리포니아 AI 규제 법안 지지…"투명성 강화 신호탄"

내부고발 강화·위험 완화 절차 공개 의무화…주 상하원 압도적 지지

앤트로픽이 인공지능(AI) 투명성 규제를 의무화하는 캘리포니아 주 법안을 공개 지지했다. 

8일 NBC뉴스 등 외신이 따르면 앤트로픽은 캘리포니아 주 상원의원 스콧 위너가 발의한 S.B.53 법안을 지지한다고 밝혔다. 미국에서 주요 AI 기업이 해당 규제 도입에 찬성 입장을 밝힌 것은 이번이 처음이다.

이 법안은 대형 AI 모델 개발사가 안전 지침 마련과 위험 완화 절차 공개를 의무화하는 내용을 담고 있다. 특히 직원이 심각한 위험을 내부고발할 수 있는 통로를 강화하고, 기업이 안전 지침과 위험 평가 결과를 공개하는 것이 주 목표다. 적용 대상은 연 매출 5억 달러 이상이면서 막대한 컴퓨팅 자원을 활용하는 프런티어 AI 기업이다.

앤트로픽이 인공지능(AI) 투명성 규제를 의무화하는 캘리포니아 주 법안을 공개 지지했다. (사진=앤트로픽)

S.B.53은 지난해 논란 끝에 무산된 S.B.1047을 수정·보완한 법안이다. 당시 법안은 책임과 처벌 조항에 무게가 실렸지만 이번에는 투명성과 위험 관리에 초점 맞췄다.

새 법안은 AI 안전사고를 신고할 수 있는 비상 시스템 구축도 포함한다. 기업은 웹사이트에 위험 대응 방안을 공개하고 주 정부 기관에 ‘재앙적 위험’ 평가 요약본을 제출해야 한다.

이번 조치는 오픈AI와 구글, 메타 등 글로벌 기업들이 자발적으로 약속했던 위험 완화 조치를 법적으로 강제하는 성격이 강하다는 평가를 받고 있다. 최근 AI가 사이버 공격이나 생물학 무기 개발에 악용될 수 있다는 우려가 커지면서 입법 필요성이 제기됐다.

업계 단체들은 AI 규제가 투자와 일자리를 다른 지역으로 몰아낼 것이라며 반발하고 있다. 그러나 캘리포니아 주 의회에서 상·하원 모두 압도적 지지를 받은 만큼 법안 통과 가능성은 높다는 분석이 나오고 있다.

미국 AI 안전센터 댄 헨드릭스 이사는 NBC뉴스와 인터뷰에서 "프런티어 AI 기업들은 안전을 위해 많은 자발적 약속을 했지만 이를 제대로 지키지 않았다"며 "이번 법안은 작은 첫걸음이지만 의미 있는 진전"이라고 밝혔다.