[현장] 국방 AI도 '풀스택'…"예산·소요제기 체계 바꿔야"

국방 AI 혁신 네트워크 세미나…인프라·데이터·온톨로지·지휘통제 연결성 강조

컴퓨팅입력 :2026/08/12 15:05    수정: 2026/08/12 15:12

국방 인공지능(AI)을 모델 개발에 한정하지 않고 인프라·데이터·온톨로지·디지털트윈·지휘통제까지 연결하는 '풀스택'으로 구축해야 한다는 제안이 나왔다. 이를 실제 국방 사업으로 구현하려면 기술 개발뿐 아니라 예산 편성과 소요제기 등 기존 사업 체계의 변화가 필요하다는 지적도 제기됐다.

한국국방연구원(KIDA) 국방인공지능정책연구실과 바른 과학기술사회 실현을 위한 국민연합(과실연) AI미래포럼은 12일 서울 중구 SK텔레콤 T타워에서 '26-8차 국방 AI 혁신 네트워크 세미나'를 개최했다.

국방 AI, 인프라·데이터·온톨로지·디지털트윈까지 품어야 

첫 발표자로 나선 김명국 SK텔레콤 담당은 국방 AI를 실제 전장에 적용하려면 각 기술 요소가 따로 움직여서는 안 된다고 봤다. 전장 환경에서는 인프라부터 데이터와 모델까지 서로 맞물려야 하는 만큼, AI 구현에 필요한 요소를 하나의 구조로 연결해야 한다는 취지다.

한국국방연구원(KIDA) 국방인공지능정책연구실과 바른 과학기술사회 실현을 위한 국민연합(과실연) AI미래포럼은 12일 서울 중구 SK텔레콤 T타워에서 '26-8차 국방 AI 혁신 네트워크 세미나'를 개최했다. (사진=지디넷코리아)

김 담당은 "국방 AI 풀스택은 AI 인프라, AI 데이터, 온톨로지, 국방 특화 모델, 디지털트윈 등으로 구성된다"며 "각 요소가 개별적으로 존재하는 것이 아니라 실제 임무 수행까지 연결되는 구조를 함께 고민해야 한다"고 말했다.

강민준 SK텔레콤 팀장은 이를 데이터와 모델, 에이전트가 연결되는 구조로 구체화했다. 미국-이란 전쟁에서 공개된 AI 활용 사례를 바탕으로 국방 AI 아키텍처를 ▲AI 인프라·데이터 패브릭·지식베이스 ▲국방·태스크 특화 파운데이션 모델 및 소형언어모델(sLLM) ▲에이전트·지휘통제 시스템 등 세 단계 레이어로 정리했다.

강 팀장은 "해당 구조 자체는 민간과 다르지 않되 각 레이어를 국방 맥락에 맞게 적용하는 것이 관건"이라며 "전장 데이터 대부분이 위성영상·통신 등 비정형 데이터라 거대언어모델(LLM)이 곧바로 처리할 수 없어 표준화된 온톨로지 매핑 작업이 선행돼야 한다"고 설명했다.

그러면서 "거버넌스는 별도 단계가 아니라 세 레이어 전체에 항상 함께 가야 하는 요소"라고 부연했다.

AI 풀스택, 구축보다 '운영' 관건…GPU 효율화부터 데이터·C2까지

AI 인프라 역시 그래픽처리장치(GPU)를 얼마나 확보하느냐보다 이를 어떻게 효율적으로 배분하고 운영하느냐가 중요하다는 의견이 나왔다. 임성하 SK텔레콤 부장은 데이터센터 전력 확보부터 GPU 운영까지 통합 관리한 국내 대형 금융그룹 사례를 통해 인프라 운영 방식의 변화를 설명했다.

한국국방연구원(KIDA) 국방인공지능정책연구실과 바른 과학기술사회 실현을 위한 국민연합(과실연) AI미래포럼은 12일 서울 중구 SK텔레콤 T타워에서 '26-8차 국방 AI 혁신 네트워크 세미나'를 개최했다. (사진=지디넷코리아)

임 부장에 따르면 해당 금융그룹은 계열사별로 AI 인프라를 따로 구축하는 대신 GPU 자원을 선투자한 뒤 가상화해 필요한 만큼 배분하는 방식으로 전환했다. 그 결과 AI 인프라 총소유비용(TCO)을 약 12% 줄이고 GPU 활용률을 70~80%대로 높였다. 자원 확보에 걸리는 시간도 기존 수개월에서 수분 이내로 단축했다.

임 부장은 "인프라를 구축한 이후에도 데이터 수집·가공, 모델 개발·학습·배포까지 이어지는 개발 사이클을 지원하는 운영 체계가 필요하다"며 "개발자가 GPU나 개발환경을 직접 관리하는 데 시간을 쓰기보다 모델과 서비스 개발에 집중할 수 있도록 AI옵스 등 관리 환경을 갖춰야 한다"고 강조했다. 

최병욱 SK텔레콤 전문위원은 국방 AI 출발점으로 데이터 관리와 온톨로지를 제시했다. 데이터가 어디에 있는지 파악하는 것뿐 아니라 체계마다 다른 의미와 형식을 국방 공통의 언어로 연결해야 AI와 에이전트가 활용할 수 있다는 설명이다.

최 전문위원은 "국방 데이터는 체계 중심으로 관리되다 보니 서로 연결되지 않는 경우가 많고, 실제 활용하려고 보면 데이터가 맞지 않는 경우도 있다"며 "신뢰할 수 있는 국방 데이터 기반을 만들고 체계별 데이터를 국방 공통 의미로 연결하는 작업이 필요하다"고 말했다.

이어 "시스템이 아닌 임무 중심 데이터를 제공하고 AI·에이전트가 국방 데이터를 즉시 활용할 수 있는 환경도 구축해야 한다"고 덧붙였다. 

"기술보다 제도가 병목"…국방 AI 사업·예산 구조부터 바꿔야

현장 토의에서는 국방 AI 풀스택을 실제 사업으로 구현하기 위해 사업 방식부터 바꿔야 한다는 요구가 나왔다. 특히 개별 기능이나 체계 단위로 사업을 쪼개기보다 하나의 임무를 처음부터 끝까지 연결해 작은 성공 사례를 만든 뒤 확장하는 방식이 제안됐다.

왼쪽부터 김명국 SK텔레콤 담당, 강민준 SK텔레콤 팀장, 손대권 인하대 물류AX실증센터장(전 육군 군수사령관), 최병욱 SK텔레콤 전문위원, 신상우 중령(국가인공지능전략위원회 지원단), 안동욱 미소정보기술 의장 (사진=지디넷코리아)

손대권 인하대 물류AX실증센터장(전 육군 군수사령관)은 "타격 중에서 필요한 영역을 센싱부터 결심까지 한번 풀스택으로 연결해 볼 필요가 있다"며 "데이터 수집부터 분석하고 결심에 이르는 에이전팅까지 보다 쉽게 접근할 수 있다면 영역을 넓히기 쉬울 것"이라고 내다봤다. 

예산 편성의 유연성이 필요하다는 주장도 이어졌다. 손 센터장은 "AI 관련 사업의 예산 상한을 탄력적으로 조정하는 정책이 검토되고 있다 "며 "오는 10월경 경제부총리와 함께 예산·세제·재정정책상의 제약을 논의하는 자리를 준비 중"이라고 밝혔다.

최 전문위원은 기존 소요제기 방식 자체가 AI 사업의 실제 비용 구조를 반영하지 못한다고 지적했다. AI 인프라와 데이터·처리 자원을 하나의 사업 안에서 구축해야 하는 경우 기존 사업 양식과 예산 기준만으로는 필요한 규모를 담기 어렵다는 이유에서다. 

최 전문위원은 "어떤 사업에서 인프라 비용만 최소 30억원 정도가 필요한데 소요제기서에서는 전체를 포함해 10억원 이내로 맞춰야 하는 식"이라며 "소요제기서는 체계와 내용에 따라 달라져야 한다"고 말했다.

산업 생태계에서는 국방 특화 영역을 중심으로 국내 기업 간 협업을 확대해야 한다는 목소리도 있었다. 해외 솔루션을 활용하더라도 군의 특수성을 고려해 그대로 적용하기보다 국내 기업의 기술과 결합해 국방 환경에 맞게 최적화해야 한다는 취지다.

김 담당은 "군의 특수성을 고려하면 엔비디아 솔루션을 그대로 적용하기보다 산업 현장에 특화된 부분은 국내 기업과 협업해야 한다"며 "독자 AI 파운데이션 모델(독파모) 프로젝트를 비롯해 국방 AI 풀스택을 구성하는 요소들을 실제 국방에 최적화하는 작업을 별도 추진할 필요가 있다"고 말했다.

관련기사

조직과 데이터 측면에서는 군 내부 역량과 데이터 활용 능력이 중요하다는 의견이 나왔다. 민간 기술을 도입하는 것만으로는 국방 현장의 요구를 구체화하고 사업을 지속하는 데 한계가 있기 때문이다. 

신상우 중령(국가인공지능전략위원회 지원단)은 "국방 AI 성패는 국방 내부의 AI 역량에 달린 셈"이라며 "민간의 기술 지원을 받더라도 군이 AI 사업 시작과 끝을 주도할 수 있는 전문성을 확보해야 한다"고 강조했다.