美 "中 AI 기업, GPT·클로드서 수십억 토큰 빼내 자사 모델 학습"

NSA·FBI·CISA 공동 권고문…"증류 의심 시 응답 추론 깊이나 품질 낮춰야"

미국 정보·사이버보안 당국이 중국 인공지능(AI) 기업들이 GPT, 클로드 등 미국 최첨단(프런티어) AI 모델에서 수십억 개 토큰을 추출해 자사 AI 모델 학습에 활용했다고 지적했다. 그러면서 이를 미국 AI 기술 리더십과 국가안보를 위협하는 '산업적 규모의 증류' 활동으로 규정했다.

미국 국가안보국(NSA), 연방수사국(FBI), 사이버보안·인프라보안국(CISA)은 8일(현지시간) '미국 AI 기업을 대상으로 산업적 규모의 증류 캠페인을 수행하는 중국 AI 기업'이라는 제목의 공동 사이버보안 권고문을 발표했다.

권고문에서 미국 당국이 지목한 중국 AI 기업은 딥시크, 문샷AI, 알리바바, 미니맥스, 스텝펀, Z.AI 등 6곳이다. 이들 기업은 2024년 말부터 클로드, GPT, 제미나이, 그록 등 미국 프런티어 AI 모델에 수백만 건의 요청을 보내 수십억 개 토큰을 추출한 것으로 조사됐다. 

(사진=뉴시스)

증류는 성능이 뛰어난 AI 모델 출력물을 다른 AI 모델이 학습해 성능을 높이는 방식이다. 미국 당국도 증류 자체는 합법적이고 유용한 AI 개발 기법이라고 전했다. 다만 중국 AI 기업들이 미국 AI 기업의 이용약관과 지역 제한을 우회하면서 독점적인 기능과 역량을 대규모로 추출한 점이 문제라고 비판했다.

특히 딥시크는 2024년 말부터 미국 AI 모델을 대상으로 조직적인 증류 캠페인을 벌여 R1·V3 모델 개발에 필요한 데이터를 확보한 것으로 알려졌다. 법률 특화 기능과 연쇄적 사고(CoT) 기반 추론, 에이전트 기능, 소프트웨어 등 특정 기능과 역량을 집중적으로 추출했다는 것이다.

중국 AI 기업들은 미국 AI 모델에 접근하기 위해 응용 프로그램 인터페이스(API)와 원격 클라우드, 제3자 API 집계업체 등을 이용한 것으로 전해졌다. 지역 제한을 우회하기 위해 '트랜스퍼 스테이션'으로 불리는 회색시장 프록시도 활용한 것으로 나타났다. 여러 계정과 경로를 분산 운영하고 프롬프트 인젝션과 탈옥 기법을 이용해 미국 AI 모델의 CoT 추론 과정까지 추출하려 했다는 게 당국 설명이다. 

미국 당국은 이같은 대규모 증류가 중국 AI 기업의 모델 개발 기간과 비용을 줄이고 미국 기업의 경쟁우위를 훼손할 수 있다고 봤다. 여러 미국 프런티어 모델에서 각각 뛰어난 기능을 골라 추출해 자사 모델에 활용하는 행위가 미국의 기술 리더십을 위협한다고도 평가했다.

미국 당국은 자국 AI 기업에 비정상적인 계정·프롬프트·네트워크와 대규모 사용 패턴을 탐지하고, 증류가 의심되는 요청에는 응답의 추론 깊이나 품질을 낮출 것을 권고했다. 또 AI 모델 사업자와 클라우드·API 업체 간 의심 계정과 공격 패턴 등의 정보를 공유할 것을 제안했다.

NSA·FBI·CISA는 "산업적 규모의 증류에 대응하려면 미국 정부와 민간 기업, 동맹국을 아우르는 협력과 정보 공유가 필요하다"고 강조했다.