[AI는 지금] 미군 AI 활용 전방위 확대…美 의회, 통제·의존 위험 경고

AI 에이전트 대규모 활용 추진…보안 기준·군인 전투 기술 유지 함께 점검

미군의 인공지능(AI) 활용이 빠르게 늘면서 AI 에이전트의 통제 실패와 군인의 과도한 의존을 우려하는 목소리가 미국 의회에서 나오고 있다. 군 전반으로 AI가 확산될수록 예상하지 못한 작동과 기존 전투 능력 저하에 대비해야 한다는 지적이다.

16일(현지시간) 미국 정치전문매체 폴리티코에 따르면 미국 국방부가 AI 활용 범위를 넓히는 가운데 상원에서는 AI 도입 과정에서 발생할 새로운 위험을 점검해야 한다는 요구가 제기됐다.

미국 국방부는 중국 등 경쟁국보다 먼저 군사 AI 역량을 확보한다는 목표 아래 AI 활용 범위를 계속 넓히고 있다. 생성형 AI를 군 내부 업무에 도입한 데 이어 여러 작업을 스스로 수행하는 AI 에이전트 활용도 추진하고 있다.

미국 의회가 AI를 전력화하는 동시에 새로운 위험에 대비할 안전장치 마련에 나섰다. (사진=챗GPT 활용)

트로이 마인크 미국 공군장관은 "AI 경쟁은 미국이 질 수 없는 경쟁"이라고 말했다. 미국 국방부는 AI를 활용하지 않는 데 따른 위험도 고려하며 군 전반에 관련 기술을 도입하고 있다.

의회가 우려하는 부분은 AI 활용 확대 과정에서 발생할 수 있는 통제 문제다. 리처드 블루멘털 민주당 상원의원은 최근 민간에서 발생한 AI 에이전트의 통제 실패가 군에서도 반복될 가능성을 경고했다.

블루멘털 의원은 "통제를 벗어난 AI 에이전트가 웹사이트에 침입하거나 시스템 성능을 떨어뜨리는 문제가 미국 국방부에도 적용될 수 있다"고 말했다.

그는 지난 9일 오픈AI의 AI 에이전트가 안전장치를 우회해 AI 플랫폼 허깅페이스에 침입한 사건과 관련해 샘 알트먼 오픈AI 최고경영자(CEO)에게 자료 제출과 해명을 요구했다. 의원실에 따르면 에이전트들은 보안 취약점을 찾는 과정에서 서로 정보를 공유하고 감시를 피하려 한 정황도 드러났다.

군인이 AI에 지나치게 의존하면서 기존 능력이 떨어질 가능성도 점검 대상에 올랐다. 상원 군사위원회가 마련한 2027 회계연도 국방수권법안(NDAA)은 AI 도입이 군인의 '필수 전투 기술' 유지에 미치는 영향을 종합적으로 평가하고 이를 담당할 고위 책임자를 지정하도록 했다.

마크 켈리 민주당 상원의원과 톰 코튼 공화당 상원의원이 지난 6월 공동 발의한 '전투원 AI 준비태세법(WARP Act)'도 군인의 AI 의존에 따른 영향을 구체적으로 살피도록 했다. AI를 사용할 때와 사용하지 않을 때 임무 수행 능력을 비교하고 장기간 사용으로 숙련도가 떨어지는지와 기존 능력을 되찾는 데 얼마나 걸리는지 추적하도록 하는 내용이다.

AI 지원이 끊긴 상황에 대한 대비도 포함됐다. 시스템 장애나 적의 공격으로 AI를 사용할 수 없을 때 군인이 기존 기술과 판단만으로 작전을 이어갈 준비가 돼 있는지 확인하고 AI 의존에 취약한 보직과 임무를 파악하도록 했다.

다만 의회의 움직임이 군의 AI 활용 자체를 제한하는 데 초점을 맞춘 것은 아니다. 국방수권법안에는 미국 국방부가 AI 에이전트를 대규모로 활용할 수 있는 체계를 구축하는 내용과 함께 에이전트에 적용할 보안 기준과 지침을 마련하도록 하는 조항도 담겼다.

코튼 의원은 법안 발의 당시 "미래 분쟁에서 우리의 군사적 우위는 AI를 최대한 활용하는 것만큼 AI 시스템이 실패했을 때 적응하고 임무를 수행할 수 있느냐에 달려 있다"고 말했다.