[코너 몰린 앤트로픽㊤] 美 국방부와 정면충돌…성능 경쟁 속 '이중용도' 딜레마

앤트로픽, 초기 '안전 유보' 약속 사실상 철회…상업적 확장은 지속 vs 군사 활용엔 빗장

미국 국방부가 인공지능(AI) 스타트업 앤트로픽을 '공급망 위험 기업'으로 지정하겠다고 통보하고 연방기관 내 기술 사용을 전면 중단하면서 논란이 확산되고 있다. 군사적 활용 범위를 둘러싼 갈등이 직접적 계기였지만, 이번 사태는 AI 산업이 유지해온 '자율 규제' 모델이 국가 권력과 충돌하며 구조적 한계를 드러낸 사례로 분석된다.

2일 업계에 따르면 이번 갈등은 올해 초 베네수엘라 마두로 대통령 생포 작전에 자사 모델 '클로드'가 활용된 것을 확인한 앤트로픽이 미국 국방부에 윤리 정책 위반을 제기하면서 폭발했다.

앤트로픽은 그동안 대규모 국내 감시와 인간 개입 없는 자율살상무기(LAWS)에는 자사 모델을 사용할 수 없다는 윤리 가이드라인을 유지해왔다. 반면 미국 국방부는 국가 안보 차원에서 AI를 '합법적인 모든 용도'에 활용할 수 있어야 한다는 입장을 고수했다. 하지만 양측간 활용 범위를 둘러싼 간극이 좁혀지지 않으면서 앤트로픽은 최근 연방 조달 체계에서 배제될 가능성이 커졌다.

샘 알트먼 오픈AI CEO(왼쪽)와 다리오 아모데이 앤트로픽 CEO (사진=로이터 유튜브 채널 캡처)

이번 갈등은 최근 앤트로픽의 전략 변화와 맞물리며 더욱 부각됐다. 앤트로픽은 현재 충분한 안전성이 확보될 때까지 강력한 AI 시스템 출시를 유보하겠다는 초기 원칙을 사실상 철회했다. 이는 고도화 경쟁에 본격적으로 뛰어들겠다는 의미로, 빅테크 간 성능 경쟁이 가속화되는 상황에서 개발 속도를 늦추는 것이 현실적으로 쉽지 않다는 판단이 반영된 것으로 해석된다.

업계 관계자는 "모델 성능이 고도화될수록 데이터 통합·복합 추론 능력은 강화된다"며 "이는 기업 고객에겐 고도화된 비즈니스 분석 도구로 활용되지만 동시에 감시 체계의 정밀화와 군사적 의사결정 지원 역량도 함께 끌어올리게 된다"고 설명했다. 그러면서 "이로 인해 기술적 능력은 사용 목적에 따라 완전히 분리되지 않는 '이중 용도(Dual-use)' 특성을 지닌다.

이 탓에 업계에선 앤트로픽의 전략적 정합성을 두고 의문을 제기했다. 기술 고도화를 통한 상업적 확장은 지속하면서, 동일한 기술의 군사적 활용에는 강한 제한을 두는 방식이 장기적으로 유지 가능하겠느냐는 점에서다. 능력은 확장하면서 활용 통제는 기업 내부 기준에 맡기는 구조가 시험대에 오른 셈이다.

특히 프런티어 AI 모델은 이미 마케팅 자동화, 금융 리스크 분석, 소비자 행동 예측 등 다양한 산업 현장에서 활용되고 있다. 개인 데이터의 대규모 결합과 고도 추론은 상업 환경에서도 작동한다. 이에 정부 활용에 대해서만 위험을 강조하는 접근이 기술 특성에 따른 불가피한 선택인지, 적용 주체에 따른 기준 차이인지에 대한 논쟁도 이어지고 있다.

이번 사태는 산업 내 전략 분화도 가속화하고 있다. 앤트로픽이 연방 조달 체계에서 배제된 직후 경쟁사 오픈AI는 미국 국방부와 기밀 네트워크 배치 계약을 체결했다. 이처럼 정부와의 협력을 확대하는 기업과 활용 범위에 선을 긋는 기업 간 노선 차가 뚜렷해지면서 AI 업계 전반에 긴장감이 형성된 분위기다.

AI 안전 문제를 지속적으로 제기해온 MIT 물리학자 맥스 테그마크는 테크크런치와의 인터뷰를 통해 이번 사태를 AI 기업 전반의 구조적 문제로 해석했다. 그는 그동안 주요 AI 기업들이 "우리를 믿어달라, 우리가 스스로 규제하겠다"는 입장을 취하며 구속력 있는 법제화를 적극 지지하지 않았다는 부분을 지적했다. 이 탓에 명확한 법적 틀 없이 자율 규제에 의존해온 구조가 형성돼 국가 권력과의 충돌을 조정할 제도적 장치를 마련하지 못하게 됐다고 주장했다.

일각에서 제기되는 '중국과의 기술 경쟁' 논리에 대해서도 테그마크는 다른 시각을 제시했다. 통제되지 않은 초고도 AI의 등장이 오히려 국가 안보에 더 큰 위험이 될 수 있을 뿐더러 단순한 속도 경쟁이 전략적 우위를 보장하지는 않을 것이라고 피력했다.

그는 "기업들이 과거 내세웠던 안전 약속을 정부에 요청해 법제화했다면 지금과 같은 상황은 벌어지지 않았을 것"이라며 "자율 규제에 의존한 채 속도 경쟁을 벌이는 구조에서는 결국 기업도, 정부도 통제력을 확보하기 어렵다"고 말했다.