오픈AI·구글 정조준한 캘리포니아…'AI 안전법' 칼날에 빅테크 긴장

스타트업은 제외하고 거대 기업만 겨냥…내부 고발자 보호 조항까지 담아 경영진 압박

미국 빅테크의 심장부 캘리포니아가 거대 인공지능(AI) 기업의 독주를 막기 위한 강력한 규제 법안을 꺼내 들었다.

22일 테크크런치에 따르면 캘리포니아 주 상원은 최근 스콧 위너 상원의원이 발의한 AI 안전 법안 'SB 53'을 최종 승인했다. 이 법안은 개빈 뉴섬 주지사의 서명만 남겨두고 있다. 다만 뉴섬 주지사는 지난해 유사 법안인 'SB 1047'에 거부권을 행사했다.

이번 법안의 핵심은 규제 대상을 명확히 한 점이다. 연간 5억 달러(한화 약 6천900억원) 이상 수익을 내는 거대 AI 개발사만 법 적용을 받는다. 이는 지난해 법안이 스타트업 생태계를 해칠 수 있다는 비판을 수용한 결과다.

지난 2023년 취임식 선서를 하는 개빈 뉴섬 캘리포니아 주지사 (사진=위키 커먼스)

특히 AI 업계 내부에서도 지지 목소리가 나와 주목된다. 오픈AI의 강력한 경쟁사로 꼽히는 앤트로픽이 해당 법안에 공식적인 지지 의사를 밝혔다.

SB 53은 AI 기업에 세 가지 핵심 의무를 부과한다. ▲안전성 보고서 제출 ▲정부 기관에 중대 사고 보고 ▲내부 고발 직원 보호 등이다. 비밀유지협약(NDA)에 서명한 직원이라도 우려 사항을 정부에 알릴 수 있는 통로를 열어준 셈이다.

캘리포니아의 독자적 행보는 연방 정부의 규제 완화 기조와 정면으로 배치된다. 현재 연방 정부는 주 정부 차원의 개별 AI 규제를 금지하는 법안까지 추진하고 있다. 이 때문에 향후 연방 정부와 주 정부 간 갈등의 새로운 뇌관이 될 수 있다는 전망이 나온다.

테크크런치는 "이 법안은 지난 수십 년간 우리가 갖지 못했던 기술 기업의 힘에 대한 의미 있는 견제 장치가 될 수 있다"며 "AI 기업이 세계에서 가장 강력한 회사가 되는 시대에 몇 안 되는 견제 수단이 될 것"이라고 평가했다.