[현장] "AI 무기화, 막을 수 있을까"…글로벌 협력이 관건

'REAIM 고위급회의'…美 국방부·한화 등 AI 신뢰성 위한 민관 협력과 검증 절차 강조

인공지능(AI) 기술의 책임 있는 사용을 보장하기 위해서는 국제적 협력과 검증 절차가 필수라는 주장이 나왔다.

9일 서울 롯데호텔에서 열린 'REAIM 고위급회의'에서 진행된 '군사 분야 AI의 책임있는 이용 이행 방안' 세션에서 전문가들은 AI의 군사적 사용에 대한 책임성과 신뢰성을 확보하기 위한 구체적 전략과 방안을 논의했다. 이들은 정부와 산업계 간의 협력과 기술적 검증 절차 강화가 필수적이라는 데 의견을 모았다.

이 회의에는 라다 플럼 미국 국방부 디지털 AI 최고책임관, 김종진 한화시스템 전무 겸 우주연구소 부소장, 로셀린다 소이판 투야 케냐 국방장관, 예룬 반 덴 호벤 델프트 공대 교수, 정이 중국과학원 자동화연구소 교수 등이 참석했다.

'군사 분야 AI의 책임있는 이용 이행 방안' 세션 (사진=외교부)

라다 플럼 최고책임관은 미 국방부가 2020년부터 AI 관련 원칙을 채택해왔다며 AI의 책임 있는 사용을 보장하기 위한 구체적인 실천 방안을 제시했다.

플럼 책임관은 "AI는 기술적으로 매우 복잡하다"며 "이에 따라 AI를 군사 시스템에 적용하는 과정에서 모든 단계에 걸쳐 검증 가능한 가이드라인이 필요하다"고 강조했다.

실제로 플럼 책임관에 따르면 미 국방부는 메사추세츠 공대(MIT)와 협력해 AI 시스템의 불확실성을 정량화하는 툴을 개발했다. 또 이를 AI 모델 선정 및 평가 전체에 적용하고 있다.

그는 "시스템을 모듈화함으로써 설계, 시험평가, 전력화 등 모든 단계에서 검증 절차를 효율적으로 실시해야 한다"며 "이를 통해 각 분야의 전문가와 실시자들이 비용 효율적이면서도 효과적인 방법으로 검증을 할 수 있을 것"이라고 강조했다.

김종진 한화시스템 전무는 방산 기업 관점에서 AI 개발의 투명성과 신뢰성 확보의 어려움을 언급했다.

김종진 한화시스템 전무 (사진=외교부)

김 전무는 "AI 시스템은 방산 분야에서 특히 중요한데 그 복잡성 때문에 투명성을 유지하는 것이 어렵다"며 "모듈화를 통해 시스템의 이해도를 높여서 차후 버전 개발도 용이하게 해야 한다"고 말했다.

또 김전무는 AI의 신뢰성 문제를 지적하며 방위산업 분야에서 데이터 부족으로 인한 어려움을 강조했다.

이를 해결하기 위한 방안으로 그는 "AI 시스템의 검증과 신뢰성을 확보하기 위해 정부와의 긴밀한 협력이 필요하다"며 "민관 간 협력을 통해 철저한 검증 절차를 필수적으로 마련해야 한다"고 주장했다.

로셀린다 소이판 투야 케냐 국방장관은 AI와 환경 지속가능성 관계를 강조했다.

투야 국방장관은 AI가 에너지 수요와 환경 보호에 미치는 영향을 언급하며 "AI 기술 역시 지속 가능성 원칙을 반영해 환경 보호 측면에서 긍정적인 변화를 이끌어야 한다"고 주장했다.

이어 발언한 예룬 반 덴 호벤 델프트 공대 교수는 AI 윤리와 규범의 중요성을 언급했다.

그는 "인간의 'AI 통제' 개념을 구체화할 필요성이 있다"며 "AI 시스템에서 공정성과 민주주의 원칙을 반영한 규범적 접근이 필요하다"고 주장했다.