AI 오판에 미·중 군사 충돌 직전까지…미군, 군용기까지 띄웠다

중국 선박 화물을 핵무기 프로그램 관련으로 오인…무장 병력 승선 준비·군용기까지 출격

인공지능(AI)이 잘못 분석한 정보로 미국과 중국 간 군사 충돌이 벌어질 뻔한 사실이 뒤늦게 드러났다.

18일(현지시간) CNN에 따르면 올해 봄 미국과 이란 전쟁 당시 중동을 항해하던 중국 선박이 핵무기 프로그램 관련 부품을 운송하고 있다는 정보보고서가 미군 내부에 공유됐다. 미군은 이를 토대로 해당 선박을 차단하기 위한 작전 준비에 들어갔다.

상황은 실제 작전 직전까지 갔다. 무장한 미군 병력은 중국 선박에 올라탈 준비를 했고 군용기도 이미 출격했다. 그러나 작전 실행 직전 보고서를 다시 검토하는 과정에서 정보가 잘못됐다는 사실이 확인되면서 작전은 실행되지 않았다.

AI가 중국 선박의 화물을 핵무기 프로그램 관련 부품으로 잘못 분석하면서 미군이 해당 선박을 차단하기 위한 작전 준비에 들어간 사실이 뒤늦게 확인됐다. (사진=챗GPT 활용)

문제가 된 정보보고서는 미군 분석관이 AI를 활용해 작성한 것으로 밝혀졌다. 미국 특수작전사령부 소속 분석관은 미국 태평양 특수작전사령부에서 전달받은 중국 선박의 화물 정보를 챗봇에 입력해 분석을 맡겼다. 챗봇은 해당 화물을 핵무기 프로그램과 관련된 것으로 잘못 식별했다.

분석관은 챗봇을 이용해 공개 정보와 미국 정부가 보유한 기밀 신호정보를 함께 분석했다. 이후 AI를 다시 활용해 분석 결과를 미군의 표준 정보보고서 형식으로 작성해 내부에 공유했다. 잘못된 AI 분석은 정식 정보보고서에 담겨 실제 군사작전 준비의 근거가 됐다.

분석관이 어떤 챗봇을 사용했는지는 알려지지 않았다. 상용 AI 서비스인지 미국 정부가 자체 개발한 시스템인지도 확인되지 않았다.

미군과 정보기관은 정보 분석과 공격 표적 선정, 예산 관리, 군수·공급망 등 다양한 분야로 AI 활용을 넓히고 있지만 AI 사용 기준은 조직마다 다르다. 미국 정부 기관과 군 조직이 서로 다른 AI 도구와 지침을 사용하는 가운데 AI가 만든 정보를 어떻게 검증하고 사람이 어느 단계에서 개입해야 하는지에 대한 공통 기준도 마련돼 있지 않은 것으로 전해졌다.

CNN에 당시 상황을 전한 관계자는 이번 사태에 대해 "거의 전쟁을 시작할 뻔했다"고 말했다.