미국 정부, 앤트로픽 AI 차단 조치…아마존 보안 우려가 촉발

아마존 연구진 '페이블5 탈옥 취약점' 보고…트럼프 대통령, 접근 차단 최종 서명

앤트로픽이 미국 정부 지침으로 최신 인공지능(AI) 모델 '페이블5(Fable 5)'와 '미토스5(Mythos 5)' 서비스를 전면 중단했다. 이번 지침은 아마존이 제기한 보안 우려가 이번 조치의 발단이 된 것으로 전해졌다.

14일 월스트리트저널 등 외신에 따르면  앤디 재시 아마존 최고경영자(CEO)는 스콧 베센트 미 재무장관 등 정부 고위 관계자에게 내부 연구진이 확인한 앤트로픽 모델의 보안 취약 가능성을 전달했다.

아마존 연구진이 확인한 취약점은 특정 프롬프트를 통해 페이블5의 안전장치를 우회(탈옥)해 사이버 공격에 악용될 수 있다는 내용이다.

정부 고위 관계자에 앤트로픽 보안우려를 전달한 앤디 제시 아마존 CEO(이미지=아마존)

해당 보고를 받은 백악관과 보안 당국은 곧바로 대응 논의에 착수했다. 이후 정부 측 보안 연구진이 아마존의 문제 제기를 자체적으로 점검하고 앤트로픽 측에는 취약점 보완 또는 모델 서비스 중단이 필요하다는 입장을 전달한 것으로 알려졌다.

이후 미국 정부는 가장 직접적인 대응 방안으로 앤트로픽 직원을 포함한 모든 외국 국적자 접근을 차단하는 방향을 택했다. 이 지침은 도널드 트럼프 대통령이 최종 승인한 것으로 전해졌다.

아마존 측 주장을 확인한 정부는 이후 정부는 미국 내외를 막론하고 앤트로픽 직원까지 포함한 모든 외국 국적자의 페이블5 및 미토스5 접근을 전면 차단하라는 수출통제 지침을 앤트로픽에 내렸다. 이번 지침은 도널드 트럼프 대통령이 최종적으로 서명한 것으로 전해졌다.

정부지침을 확인한 앤트로픽은 일부 이용자만 제한하는 수준이 아니라 전체 고객을 대상으로 관련 모델 사용을 비활성화했다고 밝혔다. 규정 준수를 위한 불가피한 결정이었다는 설명이다.

다만 아마존 측이 지적한 문제가 과장됐다는 입장이다. 회사 측은 해당 취약성이 비교적 기초적인 수준이며, 공개된 다른 AI 모델들도 유사한 정보에 접근할 수 있다고 반박했다. 또 이번 사례가 완전한 의미 탈옥으로 보기는 어렵고, 자사는 이미 충분한 안전장치를 마련해 두고 있다고 주장했다.

보안 전문가 사이에서도 해석은 엇갈린다. 아마존 연구진이 특정 소프트웨어의 보안 버그를 찾아낸 것은 사실이지만, 그것이 곧바로 고도화된 공격 코드나 실질적 침투 수단으로 이어졌다고 보기는 어렵다는 시각도 있다. 그럼에도 정부가 선제적으로 강경 조치에 나선 것은, 첨단 AI 모델이 사이버 안보에 미칠 수 있는 파급력이 그만큼 크다고 판단했기 때문으로 풀이된다.

이번 사태는 미국 정부와 빅테크, AI 기업 간 관계가 단순한 협력을 넘어 직접적인 규제와 통제 국면으로 접어들고 있음을 보여준다는 분석도 나온다. 특히 앤트로픽의 주요 투자자이자 인프라 협력사인 아마존이 직접 보안 우려를 제기했고, 이것이 정부 규제로 이어졌다는 점은 AI 생태계 내부의 긴장 관계를 보여준다는 평가다.

이에 대해 아마존 대변인은 "대규모 클라우드 제공업체로서 잠재적 보안 위험에 대해 정부의 자문에 응하는 것은 이례적인 일이 아니다"라며 선을 그었다.

업계에서는 이번 핵심 모델 서비스 중단 사태가 올가을로 예정된 앤트로픽의 기업공개(IPO)에 치명적인 타격을 줄 것으로 전망하고 있다. 반면 자체적인 사이버 모델을 보유하고 트럼프 행정부와 우호적인 관계를 유지하고 있는 경쟁사 오픈AI 등은 반사이익을 얻을 것으로 예상된다.

일각에서는 이번 조치가 앤트로픽과 트럼프 행정부 간의 누적된 갈등이 폭발한 결과라는 분석도 내놓고 있다. 앤트로픽은 앞서 군의 AI 도구 사용 문제를 두고 정부와 마찰을 빚었으며, 미 국방부로부터 이례적으로 '보안 위험 기업'으로 지정돼 현재 두 건의 소송을 진행 중이다.

백악관 측은 이번 개입이 AI 모델 안전성을 위한 것으로 현재 진행 중인 분쟁과는 별개라고 강조했다.

데이비드 색스 백악관 AI 고문은 소셜 미디어를 통해 "정부는 이번 제한 조치를 마지못해(reluctantly) 내린 것"이라며 "정부의 현재 바람은 앤트로픽이 안전성 문제를 조속히 해결하여 수출 통제가 해제되고 페이블이 다시 일반에 공개되는 것"이라고 강조했다.