미군 AI 활용은 '양날의 검'…사용 늘수록 공격 지점도 확대

미군이 생성형 인공지능(AI)을 일상 업무에 빠르게 확산하면서 오히려 새로운 보안 취약점이 생길 수 있다는 경고가 나왔다. AI 사용이 익숙해질수록 장병들이 경계심을 낮추고 민감한 정보를 입력하는 등 기존 보안 규율이 약해질 수 있단 우려다.

7일(현지시간) 미국 외교정책 전문매체 '포린폴리시인포커스(FPIF)'에 따르면 미군의 생성형 AI 활용이 빠르게 늘면서 데이터 관리와 사용자 측면의 보안 문제가 새로운 위험 요소로 떠올랐다. FPIF는 AI가 스스로 통제를 벗어나는 상황보다 이를 사용하는 사람과 데이터 관리에서 발생하는 문제가 더 현실적인 위험이라고 분석했다.

생성형 AI는 기존 정보시스템과 사용 방식이 다르다. 이용자는 AI에 질문을 던지는 데 그치지 않고 파일을 올리거나 문서를 복사해 입력하고 작업 내용을 저장한다. 같은 시스템을 매일 사용하면서 AI와의 대화가 일상적인 업무로 자리 잡으면 보안에 대한 긴장도 낮아질 수 있다는 게 FPIF의 분석이다.

미국 국방부가 GenAI.mil에 챗GPT 밀과 그록 포 거버먼트를 추가해 AI 활용을 높이자 새로운 보안 취약점이 발생할 수 있단 경고가 나왔다. (사진=GenAI.mil 홈페이지 캡처)

대화형 AI와 정보 공개 관계를 분석한 기존 연구에서도 비슷한 경향이 확인됐다. 2024년 국제학술지 '퍼스널 앤드 유비쿼터스 컴퓨팅'에 실린 연구에 따르면 검토 대상 가운데 9개 연구에서 사람들이 인간이나 웹 설문보다 대화형 AI에 더 많은 정보를 제공하는 경향이 나타났다. 특히 민감한 질문에서는 AI가 자신을 판단하지 않고 익명성이 보장된다고 느끼는 것이 정보 공개를 늘리는 요인으로 분석됐다.

AI 이용자가 늘면서 공격자가 노릴 수 있는 지점도 함께 확대된다. 사용자가 많아지면 계정과 인증정보뿐 아니라 저장된 작업과 데이터 이동량 및 다른 소프트웨어와의 연결도 증가한다. 미국 국립표준기술연구소(NIST)도 생성형 AI가 공격 가능한 영역을 확대할 수 있다고 경고한 바 있다.

여러 정보를 AI가 모아 분석하는 과정도 위험 요소로 꼽혔다. FPIF는 미국 국방부 관계자들도 비밀로 분류되지 않은 정보라도 AI가 여러 내용을 종합하면서 기밀에 해당하는 내용을 추론해낼 가능성을 언급했다고 전했다. 공격자가 미군의 전체 시스템을 뚫지 않더라도 늘어난 접점 가운데 취약한 곳을 노릴 수 있다는 설명이다.

미국 국방부가 AI를 일상 업무로 빠르게 끌어들이면서 이 같은 우려는 커지고 있다. 국방부는 지난해 12월 군 전용 생성형 AI 플랫폼 '젠AI닷밀(GenAI.mil)'을 선보인 데 이어 지난달 말 챗GPT 밀과 그록 포 거버먼트를 추가했다. 젠AI닷밀 이용자는 170만 명을 넘어섰다. 미군은 AI를 계획과 정책 수립부터 군수·행정·조달·공급망 관리까지 폭넓게 활용하고 있다.

FPIF는 동맹국과의 정보 공유에도 영향을 미칠 수 있다고 분석했다. 미국은 영국·캐나다·호주·뉴질랜드와 정보를 공유하는 '파이브 아이즈' 핵심 국가다. 미군 내부에서 AI 접근 권한과 저장 정보 및 데이터 결합이 증가하면 미국 시스템으로 넘어간 민감정보가 제대로 보호되는지 동맹국도 우려할 수 있다는 설명이다.

중국과 러시아 등 경쟁국이 이 같은 취약점을 노릴 가능성도 제기됐다. AI로 업무 속도를 높이더라도 정보 관리 규율이 함께 약화되면 미군이 얻은 효율성이 상대국에 새로운 공격 기회를 제공할 수 있다는 분석이다.