美 캘리포니아 주지사, 'AI 규제법안' 거부권 행사

뉴섬 주지사 "대중을 기술 위협으로부터 보호하는 가장 좋은 방법 아냐"

캘리포니아에서 인공지능(AI) 개발 규제 법안인 'SB 1047' 입법이 무산됐다.

개빈 뉴섬 캘리포니아 주지사ㄱ SB 1047에 대해 거부권을 행사했다. 캘리포니아주 의회가 해당 법안을 통과시킨 지 한 달만에 나온 결정이다.

뉴섬 주지사는 SB 1047가 ▲AI 모델 크기 ▲가격만을 규제 기준으로 명시한 점 등을 문제로 지적했다. 이런 조항 때문에 AI 기업들에게 지나친 부담감을 안겨줄 수 있다는 것이다. 

사진=픽사베이

뉴섬 주지사는 "SB 1047은 가장 크고 비싼 AI 모델에만 규제가 집중돼 있다"며 "실제 그 모델이 위험한 상황에 사용되는지, 중요한 의사결정을 포함하는지, 민감한 데이터를 사용하는지 여부를 고려하지 않았다"고 거부권 행사 이유를 밝혔다.

이어 "크기가 작은 AI 모델들도 민감한 데이터를 다루는 매우 위험한 작업에 사용될 수 있고, 대형 모델들도 고객 서비스 등 비교적 위험이 낮은 일에 활용되기도 한다"고 덧붙였다.

또 "SB 1047이 대중을 기술의 위협으로부터 보호하는 가장 좋은 방법이라고 생각하지 않는다"며 "이 법안이 빠르게 발전하는 기술을 통제하는 것에 대해 대중에게 거짓된 안도감을 줄 수 있다"고 말했다.

SB 1047은 개발 비용이 1억 달러(약 1억3천만 원) 이상이거나 10의 26제곱 플롭스 이상으로 학습된 AI 모델을 대중에게 공개할 때 사전 안전성 테스트를 의무화하는 내용을 담은 법안이다. AI 기업들이 자사 AI 모델 통제가 어려울 때 작동을 멈추게 하는 '킬 스위치'를 개발할 것을 규정하는 내용도 포함하고 있다. 해당 법안을 준수하지 않는 기업에게는 주 법무장관이 소송을 제기할 수 있도록 규정한다.

SB 1047를 발의한 민주당 소속 스콧 위너 캘리포니아주 상원의원은 이번 거부권 행사에 대해 "캘리포니아가 다시 한번 혁신적인 기술 규제를 선도할 수 있는 기회를 놓친 것"이라며 "그 결과 우리 모두 덜 안전해졌다"고 비판했다.

실리콘 앵글은 "뉴섬 주지사는 지난해 AI 교육 프로그램 개발과 관련해 엔비디아와 협력하는 등 AI 기술의 옹호자로 여겨져 왔고 실리콘 밸리와 긴밀한 관계를 유지하고 있다"며 "이 때문에 이번 거부권 행사는 놀라운 일이 아니었다"고 평가했다.