"AI가 행동하는 시대, 시스템 신뢰 다시 설계해야"

한국정보보호학회 제로트러스트연구회(위원장 이석준 가천대 교수)는 15일 서울 양재 aT센터 그랜드홀(5층)에서 '제2회 제로트러스트연구회 워크숍'을 개최했다.

지난해 10월 제1회 워크숍을 열었다. 당시 제로트러스트 개념과 도입 전략을 산·학·연·관이 함께 공유하며 논의의 물꼬를 텄다. 올해 워크숍은 한 걸음 더 나아가 '에이전틱 AI 시대에 제로트러스트를 어떻게 확장하고, 검증하고, 운영할 것인가'를 구체적인 기술과 현장 사례로 논의했다.

AI가 질문에 답하는 도구를 넘어 스스로 도구를 호출하고 권한을 위임받아 행동하는 주체로 바뀌면서, 사람 중심으로 설계한 기존 인증·접근통제 체계만으로는 신뢰를 보장하기 어렵다는 문제의식에서다. 연구회는 2년 연속 워크숍을 열어 국내 제로트러스트 논의의 장을 이어 가고, 그 주제를 AI 에이전트 시대의 신뢰 검증으로 넓혔다.

이날 행사는 한국정보보호학회가 주최하고 제로트러스트연구회가 주관했다. 안랩, 옥타코, 엔키화이트햇, KB국민은행, ETRI, 로그프레소, SGA솔루션즈, KISA, LG유플러스, 스마트M2M 등 공공·금융·통신·보안 기업과 연구기관의 전문가들이 4개 세션 발표를 통해 정책과 표준, 기술, 현장 적용 경험을 들려줬다.

옥타코 "정상 로그인한 AI가 잘못된 일을 한다면"… 신원 보증에서 행위 신뢰로

첫 세션에서 이재형 옥타코 대표는 ‘AI Agent 시대의 Zero Trust Identity: 사람의 인증에서 행위의 신뢰로'를 주제로 발표했다. 이 대표는 정상적으로 로그인한 AI 에이전트가 승인받지 않은 일을 수행한다면 기존 인증 체계가 이를 막을 수 있는지를 되물으며, 신원 보증의 초점을 '누구인가'에서 '무엇을 대신해 어떤 행위를 하는가'로 옮겨야 한다고 강조했다.

발표는 미국 NIST 산하 국가사이버보안우수센터(NCCoE)가 올해 2월 공개한 AI 에이전트 신원 관련 컨셉 페이퍼 논의를 바탕으로, 에이전트가 사람의 권한을 위임받아 행동하는 전 과정을 검증하는 방안을 제시했다.

토큰 교환(RFC 8693)과 세부 권한 요청(RFC 9396, RAR) 등 표준 기술로 위임 범위를 좁히는 방안과 함께, FIDO 인증에 성공했다는 사실만으로는 사람이 승인한 내용이 증명되지 않는 만큼 승인 내용과 에이전트의 실제 실행 요청이 같은지 실행 직전에 비교·검증하는 방안을 소개했다.

위임을 철회했을 때 하위 에이전트 실행이 차단되기까지 걸리는 시간 등을 하나의 테스트베드에서 측정하는 지표도 제안했다. 이 대표는 국내 환경에서는 ▲한국형 디지털 신원 보증 적용 프로파일 ▲에이전트 위임·승인 상호운용 프로파일 ▲공격 상황에서 검증하는 공개 테스트베드가 필요하다고 짚었다.

엔키화이트햇 "공격자 시선으로 제로트러스트를 검증해야"

두 번째 세션의 김주원 엔키화이트햇 팀장은 '변화하는 공격 표면, 확장되는 레드팀'을 주제로 공격자 관점에서 본 제로트러스트를 풀어냈다. 웹·모바일·클라우드·공급망으로 확장된 공격 표면을 정찰·관리(ASM)하는 방법과 레드팀 업무에 AI를 활용하는 방식을 소개하고, AI 시스템 자체를 대상으로 하는 AI 레드팀 접근법도 다뤘다.

발표 중심은 실제 침투 시나리오였다. 웹·앱 취약점 악용, 이메일 악성코드, 업무망·서버망 내부 확산, 클라우드 우회, 임직원 권한 악용, 물리보안 우회, 공급망 공격 등 11가지 시나리오를 제시하고, 마지막 단계로 '제로트러스트 검증'을 들었다. 사용자·단말·권한·서비스 간 접근통제가 문서상 설계가 아니라 실제 공격 상황에서도 작동하는지 확인해야 한다는 것이다. 김 팀장은 AI 기반 레드팀이 제로트러스트의 대응 수준을 지속적으로 점검하는 수단이 될 수 있다고 설명했다.

ETRI "오픈랜 RIC에 제로트러스트 적용"

세 번째 세션에서 권혁찬 ETRI 책임연구원은 '제로트러스트 기반 오픈랜(O-RAN) RIC 접근제어 기술'을 소개했다. 개방형 무선망의 핵심 제어 요소인 RIC에는 제3자가 개발한 xApp·rApp이 올라가는데, 이 앱이 악의적이거나 서로 충돌하면 망 전체의 안정성이 위협받을 수 있다. 권 책임은 악성 xApp의 유형을 분류하고, 침입탐지 xApp, 로그 분석 기반 O-RAN SIEM, 제로트러스트 접근제어(ZTAC), 정책결정·집행 지점(PDP/PEP) 사이드카를 결합한 대응 구조를 발표했다.

무선 구간 대응도 다뤘다. 위험도에 따라 네트워크 슬라이스의 우선순위와 자원을 조정해 피해를 격리하고, 서비스를 대체 경로로 옮기는 방안이다. 슬라이싱이 피해 확산을 줄이는 수단이며 물리적 간섭 자체를 없애려면 별도 대응이 필요하다는 한계도 함께 짚었다. 또 O-DU와 O-RU 사이 프론트홀의 C·U·S·M-plane별 보호 방안, 특히 시간 동기화(S-plane)의 타임스탬프 정확성과 저지연 요구를 함께 고려한 설계 관점을 제시했다. 권 책임은 정부의 ‘Hyper AI 네트워크' 전략에 따라 AI-RAN이 확산될수록 AI 네트워크 전반에 제로트러스트를 적용해야 한다고 전망했다.

LG유플러스 "통신사는 신뢰 경계가 가장 복잡한 산업…가시성·거버넌스·실시간 탐지로 AI 에이전트 통제 확장"

마지막 세션에서 이우제 LG유플러스 정보보안센터 PM은 ‘Agent AI를 고려한 기업의 제로트러스트 전략'을 주제로 통신사의 제로트러스트 추진 경험과 에이전트 시대의 확장 방향을 소개했다.

이 PM은 고객·임직원·협력사·네트워크 장비·클라우드·AI 서비스를 하나의 생태계로 연결하는 통신사는 신뢰 경계가 가장 복잡한 산업 중 하나이며, 경계가 사라진 환경에서는 '믿고 통과'시키는 방식에서 '검증하고 허용'하는 방식으로 전환해야 한다고 설명했다.

LG유플러스는 이 원칙을 단말·신원·네트워크·앱·데이터·분석 등 6대 요소로 나눠 IdP 기반 다중인증(MFA)과 조건부 접근, 단말 제로트러스트, SIEM·UEBA 기반 탐지·자동 대응 체계를 운영해 왔다. 다만 KISA 가이드라인 2.0과 CISA 성숙도 모델을 참조한 자체 점검(2025년 기준)에서는 주요 영역이 '초기' 단계라며, 사람 중심 제로트러스트를 고도화하는 동시에 AI 에이전트까지 포함하도록 확장해야 한다고 밝혔다.

이 PM은 AI 에이전트가 시스템 탐색부터 API 호출, 실행까지 스스로 수행하면서 보안의 질문이 '누가 어떤 권한으로 접근했는가'에서 '에이전트가 왜 그렇게 행동했는가'로 바뀌고 있다고 짚었다.

이미 권한을 가진 에이전트에 악의적 명령이 주입되면 기존 시스템은 이를 '정상 업무'로 판단할 수 있기 때문이다. 이에 따라 새 아키텍처를 만드는 대신 6대 요소에 에이전트 통제 계층을 더하는 방향을 제시했다. 최소권한은 스스로 판단·실행하는 범위까지 제한하는 '최소 자율성'으로, 접속 시점 인증은 행동하는 매 순간의 지속 검증으로, 신원 관리는 소유자·위임 관계·생애주기를 아우르는 에이전트 신원 관리로 넓힌다는 것이다.

추진은 ▲AI 자산 인벤토리를 통한 가시성 확보(섀도 AI 포함) ▲에이전트 생성·승인·운영·점검(AI 레드티밍)·폐기의 거버넌스 ▲구성의 안전(AISPM)과 행동의 안전(AIDR) 기반 실시간 탐지·대응의 3단계로 나눠 순차적으로 진행하고 있다.

금융·통신·제조 현장의 도입 전략과 AI 보안 기술 발표 이어져

이 밖에도 현장 중심의 발표가 이어졌다. 백민경 안랩 팀장은 N2SF 등 정책 환경에서 제로트러스트 신뢰체계를 구축하는 전략과 적용 사례를, 김주태 프라이빗에이아이 부사장은 금융권 제로트러스트 허브의 구축·확산 전략을 소개했다. 박종찬 KB국민은행 대리는 AI 레드티밍을 통해 AI 시스템의 신뢰를 검증하고 위협에 대응하는 방안을 발표했다.

세 번째 세션에서는 양봉열 로그프레소 대표가 XDR 기반 제로트러스트 이행 전략을, 백주호 SGA솔루션즈 이사가 마이크로세그멘테이션 기반의 가상 패칭 플랫폼으로 AI 보안위협에 대응하는 전략을 설명했다.

네 번째 세션에서는 이재형 KISA 팀장이 '에이전틱 AI 보안위협 대응 정책연구'를 주제로, 기존 제로트러스트 가이드라인 2.0을 에이전틱 AI 환경으로 확장하는 ‘AI-ZT 안내서(안)’의 방향을 소개하고 연내 안내서가 발간될 예정임을 언급했다. 마지막으로 김현곤 스마트M2M 이사는 보안특화 LLM과 에이전트 기반의 사이버보안 취약점 탐지 기술을 발표했다.

"신뢰는 '매 순간 검증'으로"… 정책·표준·기술·현장이 하나의 원칙으로

이날 발표를 관통한 메시지는 하나였다. AI가 권한을 쥐고 직접 행동하는 환경에서는 로그인 시점의 한 번의 인증이 아니라 행동하는 매 순간의 검증이 신뢰의 기준이 돼야 한다는 것이다. 신원과 위임(옥타코), 공격자 관점의 검증(엔키화이트햇, KB국민은행), 통신망과 인프라 접근제어(ETRI, SGA솔루션즈), 기업의 도입 경험(LG유플러스, 로그프레소, 프라이빗에이아이, 안랩), 그리고 국가 차원의 안내서 마련(KISA)이 각기 다른 층위에서 같은 방향을 가리켰다.

이번 워크숍은 정책 담당자와 연구자, 기업 실무자가 한자리에서 에이전틱 AI 시대의 보안 과제를 두고 서로의 기준과 경험을 맞춰 본 자리였다는 점에서 의미가 크다. 제로트러스트가 개념 논의를 넘어 AI 에이전트까지 포괄하는 국내 실천 체계로 자리 잡으려면 학계의 연구와 산업계의 구현 경험, 정부의 정책이 맞물려야 하며, 연구회는 이를 위해 연구 교류와 정책 제안, 표준화 협력으로 이어지는 가교 역할을 하겠다는 계획이다.

이석준 위원장 "예측할 수 없다면, 모든 접근과 행위를 지속적으로 검증해야"

이나 오후 5시 30분 열린 개회식은 박정수 강남대 교수 사회로 진행됐다. 이석준 제로트러스트연구회 위원장(가천대 스마트보안학과 교수)은 개회사에서, 지난해 첫 워크숍이 "제로트러스트란 무엇인가"를 함께 묻는 자리였다면 올해는 "그 질문이 한층 절박해졌다"고 말했다. 이 위원장은 지난 7월부터 최근까지 글로벌 AI 기업들의 AI 모델이 테스트 도중 환경을 벗어나 실제 외부 시스템에 접근한 사례를 공개했다며, "대부분 시험 환경의 허술함이 겹친 사고였지만, 그만큼 같은 일이 언제든 현실에서 일어날 수 있다는 뜻이기도 하다"고 짚었다. 만든 사람조차 AI가 다음 순간 무엇을 할지 완전히 예측하기 어려운 시대가 왔다는 것이다.

이 위원장은 "예측할 수 없다면, 우리가 할 수 있는 일은 하나"라며 "누구도, 무엇도 기본적으로 신뢰하지 않고, 모든 접근과 행위를 지속적으로 검증하는 것"이라고 강조했다. "신뢰는 한 번 부여하고 끝나는 것이 아니라, 매 순간의 검증을 통해 만들어 가는 것"이라는 설명이다.