"국방 무기체계는 이제 '판단하는 기계'로 진화하고 있습니다. 이러한 발전의 핵심은 온디바이스 인공지능(AI)으로, 클라우드나 서버의 명령 없이 무기 자체가 데이터를 분석하고 즉시 반응하는 구조로 바뀌는 중입니다. AI는 더 이상 전투를 보조하는 기술이 아니라 무기와 병력의 두뇌로 기능하기 시작했습니다."
한국전자기술연구원 김병수 센터장은 22일 서울 서초구에서 열린 '2025 온디바이스 인공지능반도체 워크숍'에서 이같이 말했다. 이날 그는 국방 분야 온디바이스 AI 기술을 발표하며 해당 기술의 필요성과 사례를 공유했다.
그는 "국방에서 AI는 더 이상 미래가 아닌 현재"라며 "특히 클라우드 기반 AI는 군사 환경에서 물리적 한계에 부딪히고 있어 온디바이스 방식으로 전환 중"이라고 말했다.

'온디바이스 AI'란 클라우드나 서버에 의존하지 않고 기기 내부에서 직접 AI 연산을 수행하는 방식이다. 장병들이 사용하는 소총과 야시경부터 드론, 미사일 같은 무기체계에까지 AI가 내장되면 해당 디바이스는 외부 명령 없이도 감지·판단·조치를 독립적으로 수행할 수 있다.
국방은 이러한 시스템의 도입이 가장 시급한 분야다. 통신이 끊기고 GPS가 두절되며 전파가 교란되는 환경에서 '스스로 작동하는 무기' 없이는 작전 수행 자체가 어렵다.
김 센터장은 "국방 분야의 독특한 특성 때문에 AI 기능이 디바이스 안에 들어가야 한다"며 "무기 하나하나가 현장에서 자체 연산을 수행해야 실시간 반응이 가능하다"고 말했다.
AI는 이미 전장에 투입되고 있다. 드론은 목표물 추적 후 임무 실패 시 자동으로 귀환하고 미사일은 탑재된 AI로 표적 탐색과 식별을 스스로 수행한다. 야간작전 시 병사들의 야시경도 단순한 시각 보조 기기를 넘어 적외선(IR) 영상 기반 AI 감지 기능을 탑재하는 중이다. 영상 감시 타워나 자율주행 전차에도 동일한 기술이 적용되고 있다.
일례로 미국-멕시코 국경 지역에서는 이미 안두릴 인더스트리의 '센트리 타워'가 사람 없이 자율 감시를 수행 중이다. 한국에서도 SK텔레콤, 한화시스템이 일반전초(GOP) 감시지역에 AI 감시 타워를 적용해 경계 작업을 자동화하고 있다. 이들은 영상, 레이더, 적외선 등 다양한 센서 데이터를 AI가 융합 분석해 침입 여부를 실시간 판단한다.

김 센터장은 "드론의 경우도 마찬가지로, 군집비행을 하려면 각 체계가 AI 연산 능력을 갖춰야 한다"며 "클라우드에 묶이면 비행 중 통제권을 잃는다"고 말했다.
국내에서는 지난 2023년 '국방혁신 4.0'을 통해 유무인 복합체계를 중심으로 한 AI 기반 전장 지휘전략을 발표했다. 이는 미국이 지난 2018년 국방부 주도로 합동 인공지능센터(JAIC)를 설립하고 통합 지휘체계인 합동 전 영역 지취통제(JADC2)를 통해 AI 중심 전투시스템으로 전환한 흐름과 유사하다. 양국 모두 전장 전반에 AI를 내재화하려는 전략을 공통적으로 채택한 셈이다.
기술적으로도 변화는 빠르다. 온디바이스 AI는 기존 그래픽처리장치(GPU) 기반 구조보다 전력 소모가 적고 추론 속도가 빠른 신경망처리장치(NPU)를 활용한다. 이는 영상 감시·피아식별·상황인식 등 군 특화 알고리즘에 최적화돼 있다.
관련기사
- 태성에스엔이-알에프텍, 드론 방호체계 공동 개발 힘 모은다2025.05.14
- 구글, AI 윤리 약속 철회…딥마인드 직원들, 노조 결성 나섰다2025.04.28
- "AI로 30분 내 진화"…퀀텀에어로, 무인기 기반 산불 대응 혁신 나선다2025.04.11
- AI 조종사가 F-16 몬다…퀀텀에어로, KAI에 최첨단 무인 기술 공급2025.03.20
다양한 센서 데이터를 결합해 '멀티모달 AI'를 구축하는 것도 핵심이다. 영상, 소리, 레이더 등 이질적 데이터들이 무기 내에서 통합적으로 처리되는 구조다.
한국전자기술연구원 김병수 센터장은 "민수에서 이같은 AI 기술을 주도적으로 개발하면 국방 기술에서도 AI를 활용한 차세대 기술을 확보할 수 있을 것"이라며 "AI를 무기체계에 적용하면 자율 무기 체계가 진정 자율성을 가질 수 있게 될 것"이라고 말했다.