"양심상 못한다" 앤트로픽, 美전쟁부 군사활용 요구 거부…법적 공방 가능성

아모데이 CEO "국가 안보 협력은 지속…안정장치 없는 무제한 허용은 불가"

앤트로픽이 자사 인공지능(AI) 모델 클로드의 군사적 활용 범위를 둘러싸고 미국 전쟁부의 최후통첩을 거부하면서, AI 통제권을 둘러싼 갈등이 정면충돌 양상으로 번지고 있다. 완전 자율무기와 대규모 시민 감시에 대한 윤리적 우려를 이유로 내세운 앤트로픽의 결정이 실제 법적 분쟁으로 이어질지 주목된다.

27일 CNBC 등 주요 외신에 따르면 다리오 아모데이 앤트로픽 최고경영자(CEO)는 전쟁부가 자사 모델을 모든 합법적 목적에 제한 없이 사용할 수 있도록 허용하라는 요구에 대해 "양심상 도저히 수용할 수 없다"고 밝혔다. 그는 "전쟁부의 위협이 우리의 입장을 바꾸지는 않는다"고 강조했다.

아모데이 CEO는 성명을 통해 "미국과 다른 민주주의 국가들을 방어하고 독재적 적대 세력에 맞서기 위해 AI를 활용하는 것은 실존적으로 중요한 일"이라면서도 "극히 일부 사례에서는 AI가 민주적 가치를 수호하기보다 오히려 훼손할 수 있다"고 지적했다.

다리오 아모데이 앤트로픽 CEO (사진=노지스 뱅크 인베스트먼트 공식 유튜브 캡처)

또 대규모 감시 활동과 인간의 통제를 벗어난 완전 자율무기를 언급하며 "일부 AI 사용 사례는 현재 기술 수준에서 안전하고 신뢰할 수 있는 수행 범위를 벗어난다"고 덧붙였다.

이번 갈등은 전쟁부가 클로드를 향후 합법적인 모든 용도에 제한 없이 활용하겠다는 입장을 밝히면서 촉발됐다. 클로드는 현재 미군 기밀 시스템에서 사실상 유일하게 활용 가능한 AI 모델로 알려져 있다.

전쟁부는 앤트로픽이 요구를 수용하지 않을 경우 공급망 위험 기업으로 지정하거나 국방물자생산법(DPA)을 발동해 기술 제공을 강제하는 방안을 검토하겠다고 경고했다. 피트 헤그세스 전쟁부 장관은 아모데이 CEO를 만나 27일(현지시간) 오후 5시 1분까지 입장을 정리하라고 통보한 것으로 전해졌다.

숀 파넬 전쟁부 수석 대변인은 "미국인을 대상으로 한 대규모 불법 감시에 AI를 활용할 의사가 없으며 인간 개입 없이 작동하는 자율무기를 개발할 계획도 없다"고 반박했다. 다만 전쟁부가 구체적으로 어떤 합법적 목적에 모델을 활용하려는 지에 대해선 명확히 밝히지 않았다.

앤트로픽은 지난해 전쟁부와 최대 2억 달러(약 2900억원) 규모의 계약을 체결했으며 기밀 네트워크 환경에 모델을 통합한 첫 AI 기업으로 평가받아 왔다. 오픈AI·구글·xAI 등 경쟁사들도 유사한 계약을 체결했으나, 이들 기업은 군의 비기밀 시스템에서 모든 합법적 목적 사용에 동의한 것으로 전해졌다.

업계에선 전쟁부가 실제로 공급망 위험 기업 지정을 단행할 경우 법적 다툼으로 번질 가능성이 클 것으로 보고 있다. 공급망 위험 지정은 통상 적대국 기업에 적용돼 왔다는 점에서 미국 내 AI 기업에 이를 적용하는 것이 법 취지에 부합할지에 관한 논란도 예상된다.

아모데이 CEO는 "우리는 국가 안보를 지원하기 위한 협력을 계속할 준비가 돼 있지만, 안전장치가 없는 상태에서 모델을 무제한 허용할 수는 없다"며 "정부가 우리를 배제하기로 결정하더라도 군의 작전과 계획에 차질이 없도록 원활한 전환을 지원하겠다"고 밝혔다.