美 캘리포니아, AI 안전법 'SB 53' 도입…"혁신·투명성 다 잡아"

대형 AI 연구소 안전 프로토콜 공개 의무화…"경쟁 속 기준 완화 방지"

미국 캘리포니아 주가 인공지능(AI) 기술 발전과 안전을 동시에 확보하기 위한 법안을 도입했다.

6일 테크크런치 등 외신에 따르면 개빈 뉴섬 캘리포니아 주지사는 AI 안전·투명성 법안인 ‘SB 53’에 서명했다. 

이날 뉴섬 주지사는 "이 법은 AI 산업 혁신을 막지 않으면서 공공의 안전과 투명성을 보장할 수 있다는 가능성을 보여준다"고 밝혔다.

미국 캘리포니아 주가 인공지능(AI) 기술 발전과 안전을 동시에 확보하기 위한 법안을 도입했다. (사진=구글 제미나이)

SB 53 법안은 대형 AI 기업 모델이 사이버 공격이나 생물무기 제작 등 고위험에 악용되지 않도록 대비책을 마련하고, 그 내용을 공개하도록 의무화한다. 업계가 이미 시행하던 안전성 테스트와 모델 정보 공개를 법적 의무로 전환하도록 설계된 것이다. 

이번 SB 53은 지난해 거부된 'SB 1047'보다 업계 반발이 덜한 것으로 전해졌다. 우선 규제 대상을 모든 AI 기업에서 대규모 모델과 프론티어 개발자로 한정하고, 시행 중이던 안전성 테스트와 모델 정보 공개를 그대로 법제화한 점이 주효했다.

기술 발전과 시장 변화에 따라 규제 기준을 조정할 수 있는 유연성이 포함됐다는 평가도 나온다. 경쟁이나 비용 압박으로 기업들이 기존 안전 기준을 낮추지 못하도록 정책적 장치를 마련한 것이 핵심이다.

또 SB 1047이 지적받았던 광범위하고 과도한 규제 문제를 보완한 것이 반발을 줄이는 핵심 요인으로 꼽히고 있다. 

애덤 빌렌 엔코드 AI 공공정책 부사장은 "SB 53은 산업계와 정책 입안자가 협력해 합의에 도달한 민주주의의 산물"이라고 강조했다.