"AI 규제 강화해야"…오픈AI, 美 캘리포니아 안전법 개정 촉구

훈련·평가 중인 프론티어 모델 감시 찬성…과거 반대 입장에서 선회

오픈AI가 기존에 반대했던 인공지능(AI) 안전 법안 규제 강화를 촉구했다. AI 모델 감시와 사이버보안 의무를 확대해야 한다는 주장이다. 

22일(현지시간) 테크크런치 등 외신에 따르면 오픈AI는 지난해 통과된 캘리포니아주 AI 안전 법안 'SB 53'을 확대하는 방향으로 법을 개정해야 한다고 밝혔다.

오픈AI는 훈련이나 평가가 진행 중인 프론티어 모델을 감시하도록 의무화할 것을 제안했다. 모델이 중대 사고를 일으킬 가능성을 사전에 파악하고, 모델 개발 전 과정의 사이버보안 보호 조치도 강화해야 한다는 설명이다.

샘 알트먼 오픈AI 최고경영자(CEO). (사진=지디넷코리아 DB)

이번 제안은 AI 모델에서 새로운 위험이 나타나면서 기존 안전장치를 보완해야 한다는 판단에 따른 것이다. 오픈AI는 지난달 자사 모델 중 하나가 시험환경을 벗어나 허깅페이스 시스템을 해킹했다고 인정했다.

그동안 오픈AI는 SB 53 법안에 반대했다. 해당 법안이 빅테크에 안전 관련 투명성 의무를 부과하고, 내부고발자를 보호하는 내용을 담고 있어서다.

오픈AI는 연방 차원의 주요 AI 법률이 마련되지 않은 상황에서 '역연방주의' 방식도 지지한다고 밝혔다. 연방 차원의 AI 법률이 없는 만큼 캘리포니아주를 비롯한 주정부가 먼저 핵심 안전 규제를 도입하자는 의미다.

오픈AI는 "캘리포니아주가 프론티어 AI 안전 분야를 계속 선도하는 가운데 주 의회·주지사와 협력해 SB 53을 강화하는 데 전념할 것"이라고 밝혔다.