[비욘드IT] "몰래 추적하고 성능까지 바꿨다"…통제 불가능한 해외 AI 리스크

가파른 시장 변화에 대응하기 위해 산업계는 물론 공공·연구 영역 전반에서 인공지능(AI) 도입이 빠르게 확산하고 있다.

하지만 다양한 분야에서 활용돼 온 글로벌 AI 서비스가 최근 성능 저하 은닉, 예고 없는 서비스 중단, 사용자 환경 식별 논란 등에 잇따라 휘말리면서 예측 불가능한 외부 리스크가 될 수 있다는 우려도 커지고 있다.

성능 경쟁 못지않게 안정성과 통제권이 중요 과제로 떠오르면서 국가 안보와 산업 기밀 보호를 위한 소버린 AI 구축 필요성도 한층 부각되고 있다.

7일 관련 업계에 따르면 전략 산업과 공공 영역을 중심으로 핵심 AI 인프라의 해외 의존도를 낮춰야 한다는 지적이 나온다. 비상 상황에 대비해 국내에서 직접 운영·통제할 수 있는 모델과 인프라, 그리고 대체 가능한 백업 체계를 함께 갖춰야 한다는 제언이다.

먼저 클로드 페이블 5 출시 과정에서 최첨단 AI 개발 관련 작업에 한해 사용자에게 알리지 않고 응답 품질을 낮추는 기능이 있었다는 사실이 함께 공개한 안전 문서(시스템카드)를 통해 확인됐다.

앤트로픽은 페이블5와 미토스5를 공개하면서 319페이지 분량의 시스템카드를 함께 공개했다. 문서에 따르면 두 모델은 최첨단 대형언어모델(LLM) 연구개발과 관련된 작업이 감지될 경우 내부적으로 프롬프트를 수정하거나 스티어링 벡터 등의 기법을 적용해 응답 품질을 의도적으로 낮추도록 설계돼 있었다.

문제는 이 같은 조치가 사용자에게 어떤 형태로도 고지되지 않았다는 점이다. 시스템카드에는 해당 기능이 '사용자에게 보이지 않는다(not visible to the user)'고 명시돼 있었다. 정책 자체는 공개 문서에 기재돼 있었지만 실제 이용자가 마주하는 화면에는 아무런 경고나 안내 없이 조용히 품질이 낮은 응답만 나가도록 설계된 셈이다.

이어 특정 사용자 환경을 식별하기 위한 은닉 코드가 발견되면서 논란은 더욱 확산됐다. 우회 접속 여부와 접속 지역, 호스트네임을 확인해 시스템 프롬프트 안에 유니코드로 분류 정보를 몰래 인코딩하는 방식이었다.

앤트로픽측은 LLM 기술을 탈취하려는 중국 기업에 대응하기 위한 것이라고 밝혔지만 사용자 사이에서는 LLM 개발과 직접 관련이 없어 보이는 일반적인 코딩·엔지니어링 작업에서도 성능 저하를 체감했다는 불만이 잇따랐다.

특히 어떤 요청이 '민감한 작업'으로 분류돼 품질이 낮아지는지 이용자 입장에서는 사전에 알 방법이 없다는 점에서 비판이 높았다.

미국 정부가 AI 서비스를 통제할 수 있다는 점도 리스크 요인으로 지목됐다. 미국 상무부는 지난달 국가 안보를 이유로 페이블5와 미토스5 외국인 접근을 전면 차단했다. 당시 상무부는 고성능 AI 모델이 악용될 가능성을 우려해 수출 통제를 결정했고 앤트로픽은 정부 지침을 준수하기 위해 해외 이용자는 물론 외국인 직원의 접근까지 제한했다.

서비스 중단 2주만에 규제 완화로 다시 공개됐지만 정부 정책에 따라 서비스 제공여부가 영향을 받을 수 있다는 점에서 지속 가능성에 대한 우려가 나오고 있다. 최근 오픈AI가 출시한 차세대 인공지능(AI) 모델 'GPT-5.6' 시리즈 중 일부는 미국 정부 요청에 제한 배포 됐다는 점도 이런 우려에 힘을 실고 있다.

이런 와중에 오픈AI가 미국 정부에 지분 일부를 넘기는 방안을 논의하고 있다는 사실도 알려졌다. 지난 1일(현지시간) CNBC 등 외신에 따르면 오픈AI는 미국 정부가 자사 지분 최대 5%를 보유하는 방안을 트럼프 행정부와 논의 중이다. 오픈AI 기업가치 8520억 달러를 기준으로 하면 해당 지분 가치는 약 426억 달러 규모다.

관건은 정부가 보유하게 될 지분에 의결권까지 포함되는지 여부다. 의결권이 딸린 지분이라면 미국 정부가 오픈AI 이사회 구성이나 주요 경영 판단에 직접 관여할 수 있는 통로가 열리는 셈이다. 이 경우 AI 서비스 운영 방향이 기업의 기술적 판단이 아니라 정권의 정치적 이해관계에 따라 좌우될 가능성도 배제할 수 없다.

업계에서는 이 같은 일련의 사건이 핵심 AI 인프라를 해외 사업자와 외국 정부의 정책 판단에 의존할 경우 국내 기업과 기관의 연구·보안 협력 체계가 언제든 흔들릴 수 있음을 보여준 사례라는 지적이다.

이에 안보·국방·반도체·바이오 등 전략성이 높은 핵심 분야에서만큼은 자체적으로 통제할 수 있는 '소버린 AI' 체계를 서둘러 갖춰야 한다는 목소리가 힘을 얻고 있다. 글로벌 범용 모델을 당장 국산 모델로 대체하는 것은 현실적으로 어렵더라도, 핵심 강대국의 정책 변화나 빅테크의 독단적 조치로 국내 산업 체계가 한순간에 마비되는 사태만큼은 막아야 한다는 취지다.