[AI는 지금] 美 정부, 프런티어 AI 통제 시동…오픈AI·앤트로픽 모델 출시 전 검토 추진

미국 백악관이 첨단 인공지능(AI) 모델을 기업이 공개 출시하기 전 정부가 사전에 검토하는 방안을 추진하고 있다. AI 모델 성능 경쟁이 고도화되는 가운데 사이버 안보 위험이 커지자 미국 정부가 프런티어 AI에 대한 개입 수위를 높이는 모양새다.

21일 IT 전문매체 디인포메이션에 따르면 백악관 국가사이버국장실(ONCD)은 최근 오픈AI, 앤트로픽, 리플렉션AI 등 주요 AI 기업을 대상으로 비공개 브리핑을 열고 이 같은 내용의 행정명령 초안을 설명했다.

해당 행정명령에는 미국 정보기관 등 정부 조직이 고성능 AI 모델을 일반에 공개하기 전 보안 위험을 검토할 수 있는 권한을 부여하는 내용이 담긴 것으로 알려졌다. 모델이 사이버 공격, 취약점 탐색, 악성 코드 작성 등에 악용될 가능성을 사전에 파악하겠다는 취지다.

이번 논의는 최근 차세대 AI 모델의 사이버 역량을 둘러싼 우려가 커진 데 따른 것이다. 앤트로픽의 차세대 모델이 소프트웨어 취약점 분석과 공격 경로 탐색에서 높은 성능을 보인 것으로 전해지며, 백악관 안보 라인에서는 첨단 AI 모델을 기존 소프트웨어 제품처럼 출시 후 대응하는 방식으로는 통제하기 어렵다는 인식이 확산된 것으로 보인다.

미국 정부는 이미 일부 AI 기업과 출시 전 모델 평가 협력을 진행해 왔다. 이에 구글, 마이크로소프트, xAI 등은 미국 상무부 산하 국립표준기술연구소(NIST)의 AI 표준·혁신센터(CAISI)에 모델 사전 접근권을 제공하기로 했다. 오픈AI와 앤트로픽도 백악관의 관련 논의에 참여하는 등 정부와 AI 안전성·보안 평가를 둘러싼 접점을 이어가고 있다.

이번 행정명령 논의는 단순한 자율 협력보다 한 단계 강한 제도화 움직임으로 해석된다. 그동안 기업과 정부 간 사전 평가는 자발적 협력 성격이 강했지만, 행정명령이 마련될 경우 정부가 안보 관점에서 출시 전 모델을 들여다볼 수 있는 근거가 생길 수 있다.

사전 심사 체계가 현실화되면 AI 기업들의 출시 전략에도 변화가 예상된다. 프런티어 모델 경쟁은 출시 시점과 성능 공개가 시장 주도권을 좌우하는 만큼, 정부 검토 절차가 길어질 경우 신제품 공개 일정이 늦춰질 수 있다는 우려가 나온다.

미국 정부가 이런 부담에도 사전 검토 카드를 꺼낸 것은 고성능 AI 모델의 악용 가능성이 커지고 있어서다. AI가 사이버 공격 자동화, 생물·화학 정보 악용, 허위정보 확산 등에 활용될 수 있다는 우려가 커지며 안보 차원의 검증 필요성이 부각되고 있다.

이번 사안은 트럼프 행정부의 AI 정책 기조 변화 가능성을 보여준다는 점에서도 주목된다. 트럼프 행정부는 그동안 AI 규제 완화와 미국 기업 경쟁력 강화를 강조해 왔다. 하지만 국가안보와 직결되는 프런티어 모델에 대해서는 별도 통제 장치를 마련하려는 움직임이 뚜렷해지고 있다.

관할권을 둘러싼 미국 정부 내부 논의도 변수다. AI 모델 평가 체계를 상무부 산하 조직 중심으로 가져갈지, 정보기관과 안보 조직이 더 큰 권한을 갖는 방식으로 설계할지를 두고 의견이 갈리는 것으로 알려졌다. 상무부 중심 체계는 기업과의 협력과 산업 경쟁력에 방점을 찍는 반면, 정보기관 중심 체계는 사이버 위협과 국가안보 대응에 무게를 두고 있다.