미 정부, 구글·MS·xAI 3사 AI 출시전 보안 평가한다

CAISI가 주도 성능 등 진단하기로 기업들과 협약...오픈AI와 앤트로픽도 2024년 비슷한 협약 이미 맺어

미국 정부가 구글, 마이크로소프트, xAI 등 3사의 AI모델이 출시되기전 미리 성능과 보안 수준을 평가한다고 월스트리트저널(WSJ)이 5일자(미국시각)로 보도했다.

평가는 미 상무부 산하 AI 기준 및 혁신 센터(CAISI,Center for AI Standards and Innovation)가 주도한다.

WSJ은 3사가 트럼프 행정부와 이 같은 내용을 협약했고, 앞서 오픈AI와 앤트로픽도 지난 2024년 유사한 협약을 미 상무부와 이미 맺었다고 전했다. CAISI는 공개되지 않은 AI모델들을 포함해 약 40건이 넘는 평가를 수행해온 것으로 알려졌다.

CAISI 책임자인 크리스 폴(Chris Fall)은 "최첨단 AI가 국가 안보에 미치는 영향을 이해하기 위해서는 독립적이고 엄격한 측정이 필수"라며 “산업계와의 협력 확대는 중요한 시점에서 공익을 위한 우리의 작업을 확장하는 데 도움을 준다”고 밝혔다. 그가 언급한 중요한 시점은 '미토스' 공개에 따라 달라진 보안 환경을 의미한다.

미국 캘리포니아주 마운틴뷰에 위치한 구글 본사 전경 (사진=로이터/뉴스1)

이번 협약에 따라 이들 3사는 CAISI가 국가 안보와 관련된 잠재적 능력과 위험 요소를 보다 정확하게 측정할 수 있게 안전장치(Safeguard)를 제거하거나 축소한 후 제공해야 한다.

특히 이번 움직임은 트럼프 행정부가 미토스에 대해 새로운 정부 검토 절차를 모색하고 있는 가운데 나와 주목을 받았는데, 백악관은 사이버보안에 초점을 맞춘 새로운 행정명령을 검토중이다. 새 행정명령은 특히 강력한 AI 모델에 대한 기준을 마련하기 위해 정부 감독 기구를 공식화하는 내용을 포함할 것으로 알려졌는데, 이는 성급히 공개한 AI 모델로 발생할 수 있는 사이버 공격이나 기타 혼란으로부터 소비자와 기업을 보호하는 것을 목표로 한다고 미 당국은 밝혔다.