승인 2주 앞둔 AI 안전법에 美 캘리포니아 주지사 "AI 문제 해결 못해"

드림포스2024서 'SB 1047' 언급

미국 캘리포니아 개빈 뉴섬 주지사가 할리우드 배우와 출연진 동의 없이 인공지능(AI)을 활용해 이들 디지털 복제품을 만들지 못하는 법안 등에 서명한 가운데, AI 안전법으로 알려진 'SB 1047'에는 미온적 태도를 내비쳤다.  

17일(현지시간) 개빈 뉴섬 주지사는 세일즈포스가 이날부터 19일까지 미국 샌프란시스코에서 개최하는 '드림포스 2024'의 '캘리포니아 드리밍: 뉴섬 주지사와 마크 베니오프의 대화' 세션에서 SB 1047 법안에 대한 견해를 이같이 밝혔다. 

뉴섬 주지사는 마크 베니오프 세일즈포스 최고경영자(CEO)와의 대화에서 "SB 1047 법안이 AI 산업에 희망적이지 않다"며 "강력한 규제가 모든 AI 문제를 해결할 수 없다"고 강조했다. 이어 "오히려 캘리포니아에서 급성장하는 AI 산업을 해치지 않으면서도 문제를 해결할 수 있는 유연한 법안에 더 관심 가질 것"이라고 밝혔다. 

개빈 뉴섬 주지사는 세일즈포스가 미국 샌프란시스코에서 19일까지 개최하는 '드림포스2024'의 '캘리포니아 드리밍: 뉴섬 주지사와 마크 베니오프의 대화' 세션에서 SB 1047 법안에 대한 견해를 밝혔다. (사진=지디넷DB)

그는 AI 위험성 개념에 명확한 선이 필요하다고 주장했다. 입증 가능한 위험과 가설에 불과한 위험에 대한 기준점이 필요하다는 의미다. 

이에 외신은 뉴섬 주지사가 발생 가능성 높은 위험에 우선 대비하는 행보를 보인다고 봤다. 실제 그가 지금까지 서명한 캘리포니아 법안은 5개다. 최근 생성형 AI 기반 허위 정보, 가짜 음성, 딥페이크 등을 막기 위한 법안에 서명한 바 있다. 이는 현존하는 AI 문제다. 뉴섬이 언급한 입증 가능한 위험이다. 해당 법안은 내년 본격 발효된다.

이날 뉴섬 주지사는 2주 뒤 SB 1047에 서명할 것인지 명확히 밝히지 않았다. 그는 "법안 승인 여부를 여전히 생각 중"이라며 "확실한 결정을 아직 내리지 못했다"고 말했다. 

개빈 뉴섬 주지사와 마크 베니오프 CEO의 파이어챗 세션을 예고하는 X 게시물. (사진=개빈 뉴섬 X 공식 채널)

앞서 캘리포니아주 의회는 지난달 29일 SB 1047 법안을 통과시켰다. 해당 법안은 AI 기술의 급격한 발전에 따른 안전 문제를 해결하기 위해 마련됐다. 이달 30일 뉴섬 주지사가 서명하면 공식 발효된다.

법안이 발효되면 AI 개발사는 모델 훈련 과정서 발생할 수 있는 위험을 사전에 평가하고 필요시 신속하게 모델을 중단하는 '킬 스위치' 기능을 명시해야 한다. 훈련 후 모델 변조 방지를 위해 안전 조치에 관한 조항도 법안에 포함됐다.

그동안 오픈AI를 비롯한 낸시 펠로시 하원의원, 미국 상공회의소 등은 뉴섬에게 SB 1047법안에 사인하지 말라고 압박했다. 지나친 규제로 AI 산업 발전을 저해한다는 이유에서다. 

반면 일론 머스크 테슬라 최고경영자(CEO)와 앤트로픽 등은 지지를 간접적으로 표명했다. 캐나다 몬트리올대 요슈아 벤지오 교수와 제프리 힌턴 등 AI 연구자들은 SB 1047를 전폭적으로 지지하고 있다.