에이전트 AI 시대 국가안보…"모델 성능보다 안정적 운용 중요"

국산 인공지능(AI) 모델 확보만으로는 AI 주권을 지키기 어려우며, 외부 서비스가 끊겨도 국가 핵심 기능을 이어갈 운용 능력을 갖춰야 한다는 제언이 나왔다.

최종현학술원은 23일 ‘보유에서 운용으로: 에이전트 AI 시대의 국가안보와 소버린 AI 2.0’ 보고서를 발간했다고 밝혔다.

이번 보고서는 최종현학술원과 서울대학교 미래전연구센터가 지난 7월 30일 공동 개최한 전문가 라운드테이블의 논의를 토대로 작성됐다. 기술·안보와 지정학·패권, 한국의 대응 전략 등 세 가지 관점에서 에이전트 AI가 국가안보에 미칠 영향을 분석했다.

에이전트 AI는 질문에 답하는 것을 넘어 스스로 판단하고 외부 도구를 활용해 복잡한 업무를 처리하는 인공지능을 말한다. AI 모델과 클라우드 서비스가 국경을 넘어 제공되는 상황에서는 외국 정부나 공급자의 정책 변화가 국가의 AI 운용 능력에 직접적인 영향을 줄 수 있다.

최종현학술원과 서울대학교 미래전연구센터가 지난 7월 30일 공동 개최한 ‘에이전트 AI 시대 新국가안보: 글로벌 기술 패권과 한국’ 라운드테이블에서 참석자들이 토론하고 있다. (사진=최종현학술원)

보고서는 기존 소버린 AI 전략을 독자 모델 확보에서 '접근 주권'과 '운용 주권'으로 확장해야 한다고 제안했다. 접근 주권은 필요한 AI 기술과 서비스를 안정적으로 이용하는 능력이다. 운용 주권은 특정 모델이나 클라우드 서비스가 중단돼도 다른 체계로 전환해 핵심 기능을 유지하는 능력을 뜻한다.

모든 기술을 국내에서 자체 개발하는 완전한 자립보다 외부 기술을 활용하면서도 특정 국가나 공급자에 대한 의존을 관리하는 구조가 필요하다는 설명이다. 보고서는 이를 ‘글로벌 생태계와 연결하되 종속되지 않는 체계’로 정리했다.

김유석 최종현학술원 대표는 "기술 역량이 높은 동시에 대외 의존도도 큰 한국에서는 이러한 변화가 특히 중요하다"며 "AI 주권의 개념을 모델 보유에서 운용 역량과 국제규범 설계의 문제로 확장해야 한다"고 말했다.

AI 경쟁력을 판단하는 기준도 모델 성능에서 실제 운용 능력으로 바꿔야 한다고 봤다. 성낙호 네이버클라우드 하이퍼스케일 AI 총괄은 에이전트 AI가 모델과 이를 운용하는 '하네스'의 결합으로 작동한다고 설명했다. 하네스는 도구 연결과 기억, 권한 관리, 결과 검증, 오류 복구, 안전장치 등을 포괄하는 운용 체계다.

보고서가 인용한 평가기관 METR의 측정 결과에 따르면 AI가 성공률 50%로 자율 수행할 수 있는 작업시간은 2019년 수 초에서 2026년 약 14~16시간으로 늘었다. 장시간 업무에서는 작은 오류가 누적될 수 있어 단순 성능보다 안정성과 복구 능력이 중요하다는 분석이다.

사이버 안보 분야에서는 AI가 공격 비용을 낮추면서 공격자와 방어자 사이의 격차를 키울 수 있다고 진단했다. 공격자는 수많은 시도 가운데 한 번만 성공하면 되지만 방어자는 시스템 전체를 보호해야 하기 때문이다. 이에 따라 개별 방어 기술 정확도를 높이는 것뿐 아니라 실제 적용 범위를 확대해야 한다고 제안했다.

미국과 중국의 AI 경쟁도 개별 기술을 넘어 생태계 주도권을 둘러싼 경쟁으로 확대됐다고 평가했다. 미국은 첨단 반도체와 최상위 AI 모델, 글로벌 클라우드를 바탕으로 성능과 안전성이 높은 시장을 구축하는 데 주력하고 있다. 중국은 개방형 모델과 낮은 이용료, 제조·통신 기반을 활용해 이용자와 개발자 생태계를 넓히고 있다는 분석이다.

한국은 모든 전략기술에 자원을 분산하기보다 글로벌 공급망에서 쉽게 대체하기 어려운 분야를 골라 역량을 집중해야 한다고 제언했다. 제조와 헬스케어, 문화 콘텐츠 등 기존 강점을 키우고 고령화·재난·환경 등 사회문제 해결 분야에서도 차별화된 경쟁력을 확보할 필요가 있다는 설명이다.

메모리 반도체와 첨단 제조, 데이터센터는 한국이 AI 경쟁에서 활용할 수 있는 전략 자산으로 꼽혔다. 다만 반도체와 데이터센터를 공급하는 데 그치지 않고 AI 기술과 서비스의 설계 과정에 참여해 지식과 부가가치를 국내에 축적해야 한다고 강조했다.