[인터뷰] 오행록 세종대 교수 "AI 사이버전 시대, 사람은 '결정'에 집중해야"

인공지능(AI) 에이전트가 사이버 공격 과정에 직접 개입하면서 사이버전의 시간 단위가 달라지고 있다. 사람이 탐지하고 분석해 대응하는 기존 방식만으로는 AI가 만들어내는 공격 속도를 따라가기 어렵다는 지적이다. 국방 사이버방어에서도 AI를 활용하되, 판단 근거를 확인하고 사람이 통제할 수 있는 구조를 함께 갖춰야 한다는 목소리가 나온다.

오행록 세종대 컴퓨터공학과 교수는 최근 서울 광진구에서 지디넷코리아와 만나 "사이버 공간 곳곳에 AI 에이전트를 심어놓고 일을 맡긴 뒤 사람은 승인이나 의사결정을 하면 된다"며 "AI 에이전트가 추천하는 결과도 근거 있는 자료여야 하고 신뢰성이 있어야 사람이 그 결과를 믿고 의사결정을 할 수 있다"고 밝혔다.

오 교수는 1989년 국방 분야 연구를 시작해 약 37년간 국방정보체계와 지휘통제체계, 상호운용성, 사이버작전 관련 연구를 수행했다. 지난 7월 국방과학연구소(ADD)에서 퇴직한 뒤 현재는 세종대 교수로 재직하고 있다.

AI 사이버전, '탐지'에서 '결정'으로

오 교수는 AI가 사이버전에 가져올 가장 큰 변화로 공격과 방어의 속도와 규모를 꼽았다. 기존에는 '탐지-분석-보고-승인-조치' 과정에 사람의 시간이 필요했지만, AI 에이전트가 분석과 대응을 나눠 수행하면 같은 인력으로 더 많은 상황을 동시에 다룰 수 있어서다.

오행록 세종대 컴퓨터공학과 교수가 지난 23일 서울 광진구 세종대학교에서 지디넷코리아와 인터뷰를 마친 뒤 포즈를 취하고 있다. (사진=지디넷코리아)

이에 따른 사람의 역할도 바뀌어야 한다고 봤다. 모든 경보를 사람이 확인하는 대신 AI가 반복적인 분석과 대응을 맡고 사람은 의사결정이 필요한 지점에서 승인하는 방식이다. AI에 자율성을 부여할 때는 '되돌릴 수 있는가'를 기준으로 삼아야 한다는 게 오 교수의 생각이다.

반복적이고 복구 가능한 작업은 AI에 맡길 수 있지만 통신 차단이나 계정 정지처럼 되돌리기 어려운 조치는 사람의 판단을 거쳐야 한다는 것이다. 오 교수가 군용 AI의 핵심 조건으로 꼽은 요소도 AI가 내린 판단을 사람이 신뢰하도록 해주는 '설명 가능성'이다.

오 교수는 AI 성능 평가 체계에 대해 "개별 모델의 탐지 정확도보다 어떤 데이터를 근거로 판단했는지, 다른 체계와 어떻게 연결되는지, 사람이 어디에서 개입할지를 같이 설계해야 한다"며 "해당 판단이 실제 임무에 어떤 영향을 미치는지까지 살펴봐야 한다"고 강조했다.

AI 방어의 기반은 데이터…지식그래프로 연결해야

오 교수가 제안하는 'AI·지식그래프 기반 차세대 사이버방어체계 아키텍처'는 이같은 방향을 구체화한 방법론이다. 온톨로지로 자산·계정·공격기법·임무 등의 관계를 구조화하고 지식그래프로 여러 출처의 정보를 연결한 뒤 AI의 분석·추론 결과에 근거를 부여한다.

기존에는 개별 로그나 보안장비의 탐지 결과를 중심으로 이상 징후를 파악하는 경우가 많았다. 여러 정보를 하나의 구조로 연결하면 해당 사건이 어떤 공격 경로로 이어지고 어떤 자산과 임무에 영향을 미치는지까지 파악할 수 있다는 게 오 교수의 설명이다. 탐지에 그치지 않고 분석 결과를 대응으로 연결할 수 있는 기반을 만드는 셈이다.

이 구상은 향후 AI 에이전트 기반 사이버방어로 확장하기 위한 기술적 기반이기도 하다. 오 교수가 제안한 '사이버-유무인 복합체계(MUMT)'는 사람 작전요원과 AI 에이전트를 한 팀으로 편조해 운용하는 개념이다.