[시론] 보안 특화 AI, 우리가 만들려는 것은 '모델'인가 '역량'인가

정부가 '사이버보안 특화 인공지능(AI) 파운데이션 모델' 개발 프로젝트 사업자로 네이버클라우드 컨소시엄을 3일 선정했다. 네이버클라우드 컨소시엄은 9월부터 10개월 동안 그래픽처리장치(GPU) B200 총 256장을 지원받는다. 정부는 우선 5개월간 GPU를 지원하고, 중간평가 결과에 따라 나머지 5개월을 추가 지원할 예정이다.

정부가 보안에 특화한 AI 파운데이션 모델을 직접 확보하려는 시도 자체는 매우 의미 있는 일이다. 국가가 스스로를 방어하기 위한 최소한의 무기체계를 갖춰야 한다는 '자주국방'의 원칙에 비견할 만하다.

최근 강력한 성능의 AI가 속속 등장하면서 과거에는 상당한 전문지식과 시간이 필요했던 취약점 분석과 공격 방법 개발의 상당 부분이 자동화되고 있다. 미국을 중심으로 선진국들이 국가안보 차원에서 강력한 해킹 능력을 가진 AI 모델 개발에 뛰어드는 이유다. 미토스(Mythos)와 글래스윙(Glasswing) 프로젝트가 대표적이다.

문제는 국가안보와 연관한 이러한 최고 수준 AI를 언제까지 우리가 자유롭게 이용할 수 있다는 보장이 없다는 것이다. 첨단 반도체와 AI 기술이 이미 국가안보와 수출통제 대상이 되고 있는 만큼, 사이버방어를 외국 AI에 전적으로 의존했다가 정작 필요한 순간에 사용할 수 없게 된다면 큰 문제가 아닐 수 없다. 그런 의미에서 우리 스스로 통제할 수 있는 독자적인 AI 파운데이션 모델을 확보해야 한다는 정부의 문제의식에는 충분히 공감한다.

다만 여기서 한 가지 질문을 던져볼 필요가 있다. 우리가 원하는 것은 '국산 사이버보안 AI 모델'을 갖는 것인가, 아니면 'AI를 이용한 공격에 맞설 수 있는 세계 최고 수준의 사이버방어 역량'을 갖는 것인가?

전자가 목표라면 지금의 정부 정책은 자연스럽다. 우리가 개발한 범용 AI 파운데이션 모델에 사이버보안 데이터를 추가로 학습시켜 보안에 특화한 독자 모델을 만들면 된다. 다만 단순히 국산 사이버보안 AI를 보유했다는 데 의미를 둬서는 안 된다. 막대한 GPU와 예산을 투입하는 만큼 실제 사이버보안 업무에서도 세계 최고 수준의 모델들과 경쟁할 수 있는 성능을 갖춰야 한다. 그래야 독자 모델을 확보하는 전략적 의미도 생긴다.

그러나 국가 사이버안보 관점에서는 여기서 한 걸음 더 나아가야 한다. 공격자가 어떤 AI를 사용하든 이에 대응할 수 있는 세계 최고 수준의 사이버방어 역량을 확보하는 것이 목표라면, 반드시 하나의 AI 모델이 모든 보안 업무에서 최고일 필요는 없다. 국내외에서 우리가 이용할 수 있는 여러 상용 AI(오픈소스 포함)와 기존 보안 도구들을 어떻게 결합해 취약점을 찾고 분석하고 검증할 것인지, 그리고 이 전체 과정을 얼마나 효과적으로 운영할 것인지가 더 중요하다.

프로축구단에 비유하면 이해하기 쉽다. 특정 포지션에서 세계 최고 수준의 기량을 갖춘 국내 선수 한 명을 키울 것인가, 아니면 일정 수준 이상의 국내외 선수들에게 각자의 역할을 맡기고 이들을 잘 조합해 세계 최고의 팀을 만들 것인가의 차이다. 전자가 특정 선수의 능력을 극대화하는 전략이라면, 후자는 역할 분담과 조합을 통해 팀 전체의 경기력을 극대화하는 전략이다.

미국 마이크로소프트(MS)가 후자의 대표 사례다. 마이크로소프트가 개발한 MDASH는 가장 뛰어난 AI 모델 하나에 모든 보안 업무를 맡기는 방식이 아니다. 여러 AI 모델과 전문 에이전트를 조합해 취약점을 찾고 분석하고 검증하는 전체 과정을 하나의 시스템으로 구성한다.

특히 특정 AI 모델에 종속되지 않도록 설계했다는 점이 중요하다. 마이크로소프트는 이를 'Model Agnostic', 즉 '특정 모델에 구애받지 않는 구조'라고 부른다. 더 좋은 AI가 등장하면 이를 추가하거나 교체할 수 있고, 빠르고 저렴한 모델로 충분한 작업에는 굳이 크고 값비싼 모델을 사용할 필요도 없다. 자체 개발한 사이버보안 특화 AI인 MAI-Cyber-1-Flash 역시 MDASH 시스템을 구성하는 여러 모델 가운데 하나다.

이러한 접근이 중요한 이유는 AI 기술이 매우 빠르게 발전하고 있기 때문이다. 오늘 최고 수준인 모델이 6개월 뒤에도 최고라는 보장은 없다. 특정 모델 하나에 전체 방어체계를 지나치게 결합시키면 그 모델의 경쟁력이 떨어지는 순간 방어체계의 경쟁력도 함께 떨어질 수 있다.

반대로 특정 모델에 종속되지 않는 구조라면 GPT든 클로드(Claude)든 제미나이(Gemini)든 다른 국산 AI든 필요에 따라 선택하고 조합할 수 있다. 더 좋은 AI가 등장해도 전체 시스템을 다시 만들 필요 없이 추가하거나 교체하면 된다. 결국 중요한 것은 특정 모델 하나의 성능뿐 아니라 새로운 AI를 얼마나 빠르고 효과적으로 우리의 사이버방어 역량으로 전환할 수 있느냐다.

물론 우리가 직접 통제할 수 있는 독자 AI 모델도 반드시 필요하다. 해외 AI를 사용할 수 없는 상황에서도 사이버방어 능력을 유지해야 하고, 외부로 유출되어서는 안 되는 국가안보 관련 기밀을 다루는 경우에는 그 필요성이 더욱 커진다. 따라서 사이버보안 특화 AI 파운데이션 모델 개발 자체를 반대할 이유는 없다.

다만 세계 최고 수준의 사이버방어 능력을 갖추는 것이 목표라면, 한정된 GPU와 막대한 예산을 특정 AI 파운데이션 모델 개발에만 집중하는 것이 최선인지는 생각해볼 필요가 있다. 세계 최고 수준의 독자 AI를 개발하는 것과 함께, 앞으로 등장할 더 뛰어난 AI를 신속하게 받아들여 사이버방어에 활용할 수 있는 체계를 만드는 데도 투자해야 한다.

국가 사이버보안 목표는 국산AI를 보유하는 것 자체가 아니다. 가장 강력한 공격자가 가장 강력한 AI를 들고 왔을 때도 국가의 핵심 시스템을 지켜낼 수 있는 능력을 갖추는 것이다.