유용원·부승찬 의원 '국방인공지능법' 대표발의…미래 전장 핵심 'AI 기술 우위' 확보

국방 AI 개발부터 안전관리까지 법적 근거 구축

국방 인공지능(AI) 기술을 개발부터 운용, 안전관리까지 포괄하는 별도 법적 틀을 마련하는 입법이 추진된다.

국회 국방위원회 소속 국민의힘 유용원 의원과 더불어민주당 부승찬 의원은 28일 '국방인공지능법안'을 대표발의했다. 국방 분야 인공지능을 국가 차원의 전략으로 정립하고, 책임 있는 활용을 제도적으로 뒷받침하겠다는 취지다.

이번 법안은 현행 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법'이 국방 또는 국가안보 목적으로만 개발, 이용되는 인공지능 가운데 대통령령으로 정하는 인공지능을 적용 대상에서 제외하고 있다는 점을 배경으로 한다. 

국방위원회 소속 국민의힘 유용원 의원(왼쪽)과 더불어민주당 부승찬 의원

이 때문에 국방 인공지능의 개발, 운용, 안전관리 전반을 체계적으로 규율할 별도 법적 기반이 필요하다는 문제의식이 법안에 담겼다.

법안은 국방 인공지능 정책의 기본방향을 정립하도록 했다. 자동화된 결정이 사람의 생명 또는 신체에 중대한 위해를 끼칠 우려가 있는 경우에는 인적 개입을 보장하도록 규정했다. 

국방부 장관이 3년마다 '국방인공지능 기본계획'을 수립, 시행하도록 하는 조항도 포함됐다. 주요 정책과 제도 개선을 심의, 의결하기 위한 '국방인공지능위원회' 설치 근거도 마련했다.

전담 조직 설치도 명시했다. 국방 인공지능 정책 개발과 국제협력을 위한 '국방인공지능정책센터', 안전성과 신뢰성 확보를 위한 '국방인공지능 안전연구소'를 설치하도록 했다. 신속한 전력화가 필요하거나 기술적 혁신성이 인정되는 경우에는 무기체계 등의 획득 절차를 별도로 정할 수 있는 특례도 뒀다.

기술과 데이터 기반을 다지기 위한 조항도 담겼다. 표준화 사업 추진과 관련 표준 보급, 양질의 학습데이터 확보 시책, 데이터의 효율적 관리와 보안 유지를 위한 전문기관 지정, 무기체계 등에 적용 가능한 민간 인공지능기술 발굴과 소요 결정 단계부터의 검토, 반영 등이 포함됐다. 

규제 특례 도입과 절차 간소화, 전문인력 양성, 실증 기반과 데이터센터 등 인프라 조성, 전력 운용 중 안전에 중대한 영향을 미치는 시스템에 대한 위험관리 방안 마련도 주요 내용으로 제시됐다.

양 의원 측은 "AI가 군사작전의 혁신, 지휘결심 고도화, 전장환경 예측능력 제고 등 미래 국방력의 핵심 요소로 부상한 만큼 국방 분야의 기술적 우위를 확보하기 위한 제도 기반이 필요하다는 취지에서 법안을 추진했다"고 밝혔다.