시스코 "'예측 불가' AI 에이전트 온다…강력 보안 통제 준비해야"

[인터뷰] 시스코 라즈 초프라 수석부사장 겸 보안 최고제품책임자(CPO)

"인공지능(AI)이 발전할수록 이를 안전하게 쓰는 방법이 중요해지고 있습니다. 특히 에이전트 AI는 강력한 통제가 필수입니다. 우리는 고객들이 AI 에이전트 보안을 강화해 이를 유용한 기술로 활용할 수 있도록 지원할 것입니다."

시스코 라즈 초프라 수석 부사장 겸 보안 부문 최고제품책임자(CPO)는 최근 지디넷코리아를 만나 에이전틱 AI 시대 보안 강화 필요성과 전략을 이같이 밝혔다.

최근 생성형 AI가 빠르게 확산하면서 보안 환경이 크게 변하고 있다. AI가 업무 효율성과 기술 혁신을 가져왔지만 AI 효과가 사이버 공격자에게도 적용되고 있다. 특히 해커가 AI 기술로 단기간에 기업 시스템을 파악·공격할 수 있게 됐다. 

시스코 라즈 초프라 수석부사장 겸 보안 최고제품책임자(CPO). (사진=시스코)

라즈 초프라 수석 부사장은 "해커가 생성형 AI를 통해 기업 시스템 침투 방식과 취약점 파악을 단기간에 수행할 수 있다"며 "기존 몇 주 걸리던 사이버 공격 과정이 현재 반나절도 안 돼 이뤄지고 있다"고 지적했다. 

이어 "기업은 AI로 미리 위협을 예측·대응할 수 있는 환경을 구축해야 하는 이유"라며 "에이전틱 AI 시대에 AI 보안 대응 체계를 더 높여야 한다"고 강조했다.

'하이퍼쉴드'·'AI 디펜스'로 보안 전 과정 지원

초프라 수석 부사장은 AI 보안 전략을 대표하는 제품으로 '하이퍼쉴드(HyperShield)'와 'AI 디펜스(Defense)'를 언급했다.

초프라 수석 부사장은 하이퍼쉴드와 AI 디펜스를 소개했다. (사진=시스코)

하이퍼쉴드는 방화벽이 스스로 보안 규칙을 작성·테스트·배포하고 필요 없어지면 삭제까지 자동 수행하는 솔루션이다. 이에 기업은 방화벽을 직접 업그레이드할 필요가 없어 운영 부담을 줄일 수 있다.

AI 디펜스는 AI 엑세스 제어와 악성 명령어 주입 방지, 레드팀 운영 지원 서비스를 제공한다. AI 엑세스 제어는 챗봇에 기업 정보 유출이 발생하지 않게 돕는 기능이다. 코파일럿이나 제미나이 등 챗봇이 민감한 회사 정보를 읽지 못하게 만들 수 있다. 보통 챗봇에 입력된 정보는 실행 쥐소가 불가하다. 이를 AI 디펜스가 미리 차단하는 것이다.

프롬프트 주입 방지는 악성 명령어가 기업 챗봇에 들어가지 않게 막는다. 챗봇이 공격자의 프롬프트에 속아 부적절한 정보를 이끌어내지 못하게 차단할 수 있다. AI 디펜스는 AI 레드팀 운영과 가드레일까지 지원한다. 새 애플리케이션이 시스템에 도입될 때 발생하는 AI 편향이나 환각, 유해 콘텐츠 포함 여부를 확인하고 이를 방지하는 가드레일을 설정하는 식이다. 

초프라 부사장은 해당 제품을 통한 성과도 공유했다. 최근 마이크로소프트의 온프레미스형 '셰어포인트'에서 취약점이 발견됐을 때, 시스코는 AI 서비스로 이에 발 빠르게 대처한 것으로 전해졌다. 

그는 "우리는 AI를 통해 보상형 통제 코드를 빠르게 만들어 고객사에 적용했다"며 "코드 작성부터 테스트, 디버깅, 위협 조사, 기술 문서 작성까지 AI를 통해 수행했다"고 강조했다.

"시스템 접근하는 모든 신원 꿰뚫어야"

초프라 부사장은 AI 시대 보안 전략으로 '분산 보안'을 제시했다. 과거에는 데이터센터 내부 애플리케이션 앞에 방화벽 하나만 설치하면 충분했지만, 지금은 온프레미스와 클라우드 등 다양한 플랫폼이 혼합된 환경으로 바뀌었다는 이유에서다. 

초프라 부사장은 AI 시대 핵심 보안 전략으로 분산 보안과 제로 트러스트를 언급했다. (사진=시스코)

그는 "컴퓨팅 환경이 분산된 만큼 보안도 분산형으로 이뤄져야 한다"며 한다"며 "AI 시대 환경에 효과적으로 대응할 수 있는 핵심 전략"이라고 강조했다.

초프라 부사장은 제로 트러스트 중요성도 언급했다. 이를 위해선 모든 신원(ID) 정보 파악이 필수라고 주장했다. 기업 시스템이 누가, 무엇을, 어디서, 얼마나 접근하고 있는지 꿰뚫어야 한다는 설명이다. 현재 시스코는 ID 평가 보고서를 무상으로 제공하며, ISE(Identity Services Engine)으로 사람뿐 아니라 머신 ID까지 관리하고 있다. 이를 통해 모든 사용자와 기기에 최소 접근 권한을 적용하고 있다. 

초프라 부사장은 한국의 보안 규제에 대해 언급했다. 그는 "한국은 개인정보보호법 등 강력한 규제 환경 덕에 AI 보안을 선제적으로 고려하는 경향이 있지만, 이런 이유로 보안 리스크를 지나치게 회피하고 있다"고 말했다. 

그러면서 "이런 성향은 첨단 기술 도입 속도에 영향 미칠 수 있다"며 "현재 미래 기술로 뜨고 있는 양자내성암호(PQC) 연구에서도 한국이 다른 나라보다 다소 소극적인 이유"라고 덧붙였다. 

"AI 에이전트 보안 준비 지금부터"…이달 말 제품 판매 시작

초프라 부사장은 앞으로 AI 에이전트가 기업 판도를 바꿀 기술이라고 평가했다. 기존 AI가 작업 효율화에 그쳤다면, 에이전트는 사람 개입 없이 처음부터 끝까지 업무를 수행한다는 이유에서다.

시스코가 지난 6월 '시스코 라이브'에서 보안 분야 AI 에이전트를 공개했다. (사진=시스코)

그는 AI 에이전트 통제가 반드시 필요하다고 봤다. 사용자와 동일한 데이터 접근 권한을 갖는 만큼 예기치 못한 행동 가능성도 크기 때문이다. 

현재 시스코는 에이전틱 AI 시대 대응을 위한 전략 준비에 한창이다. 지난 6월 미국 라스베이거스에서 열린 '시스코 라이브'에서 보안 분야 AI 에이전트를 공개했다. 이달 말 말 제품 판매를 위해 데모 공개를 진행할 예정이다. 최근 '블랙햇' 주간에는 AI 모델 공유 플랫폼 '허깅페이스'에 올라온 모든 모델에 보안 시스템을 적용하겠다고 발표한 바 있다.

초프라 부사장은 "생성형 AI와 AI 에이전트는 앞으로 더 강력해질 것"이라며 "기술 발전 속도에 맞춰 보안 대응 속도도 함께 높여야 한다"고 주장했다.