앤트로픽 "정부가 위험한 AI 모델 배포 막을 권한 가져야"

인공지능(AI) 모델 '클로드' 개발사 앤트로픽이 정부에 구속력 있는 AI 규제와 노동시장 대책을 동시에 도입할 것을 촉구했다. AI 발전이 기하급수적으로 빨라지는 만큼 기존의 투명성 중심 접근만으로는 위험에 대응할 수 없다는 이유에서다.

앤트로픽은 10일(현지시간) 공식 홈페이지를 통해 이 같은 내용을 담은 두 가지 정책 제안을 공개했다. 첫 번째 제안인 '고도화된 AI 프레임워크'는 정부가 파국적 위험을 지닌 모델 배포를 차단하거나 억제할 법적 권한을 가져야 한다는 내용을 핵심으로 한다.

적용 대상은 10의 25제곱 플롭스(FLOPs) 이상으로 훈련됐고 AI 관련 매출 5억 달러 또는 AI 연구개발(R&D) 지출 10억 달러를 넘는 기업 모델로 한정된다. 위반 시 글로벌 연매출에 연동돼 반복 위반 시 가중되는 과징금을 부과하는 방안을 담았다.

규율 대상 위험은 ▲생물무기 개발을 쉽게 만드는 생물 위험 ▲핵심 인프라를 위협하는 사이버 위험 ▲개발자 통제를 벗어나는 통제 상실 위험 ▲세 위험을 증폭시키는 AI 자동화 R&D 등 네 가지다. 앤트로픽은 프런티어 개발사가 모델을 테스트해 결과를 공개하고 독립 평가를 받으며 견고한 보안 체계를 갖춰야 한다고 요구했다. 프레임워크와 최소한 동등하게 강력한 연방법이 제정되기 전엔 의회가 주(州) 법을 선점해선 안 된다고도 명시했다.

또 다른 제안인 경제정책 프레임워크는 노동시장 충격을 실업률 약 5%와 10%, 전례 없는 수준 등으로 나눠 대응책을 제시했다. 5% 국면에선 재훈련 보조금·임금보험·고용 유지 인센티브를, 10% 국면에선 실업보험 확대와 부문별 전환 지원을 제안했다. AI가 노동을 광범위하게 대체하는 전례 없는 실업이 닥칠 경우 기본소득, 국부펀드 모델, 지분 공유 등 대규모 소득 대체가 필요하다는 것이다.

앤트로픽은 이를 직접 지원하겠다며 경제미래연구기금 2억 달러와 초기 경력자 펠로십 1억 5000만 달러 등 총 3억 5000만 달러(약 5335억원) 투자 계획도 함께 발표했다.

다리오 아모데이 앤트로픽 최고경영자(CEO)는 같은 날 개인 블로그에 올린 에세이 'AI 발전에 대응하기 위한 정책 제언(Policy on the AI Exponential)'에서 이 같은 제안의 배경을 구체적으로 설명했다.

그는 "AI가 1~2년 안에 '데이터센터 속 천재들의 나라' 수준에 이를 수 있다"며 "이제는 투명성을 넘어 더 엄격하고 구속력 있는 규제를 도입해야 할 때"라고 강조했다.