AI 확산에 보안 위협도 커졌다…아이티센그룹, '에이전트고 가드' 출격

프롬프트 인젝션·민감정보 유출 실시간 차단…기존 AI·RAG 환경에도 연동

아이티센그룹이 생성형 인공지능(AI)과 AI 에이전트 확산에 따른 보안 위협에 대응하는 기술을 선보이며 기업용 AI 보안 시장 공략에 나선다.

아이티센그룹은 AI 가드레일 통합 보안 솔루션 '에이전트고 가드'를 정식 출시했다고 1일 밝혔다.

앞서 아이티센그룹은 지난 1월 계열사 아이티센클로잇을 통해 여러 AI 에이전트를 한 곳에서 관리·연결하고 실제 업무를 수행하도록 지원하는 멀티 AI 에이전트 관리 플랫폼 '에이전트고 2026'을 선보였다.

에이전트고 가드 로고 (사진=아이티센그룹)

이번에 출시한 에이전트고 가드는 에이전트고 2026과 별도로 도입할 수 있는 독립형 보안 플랫폼이다. 기업이 기존에 구축한 AI 에이전트와 검색증강생성(RAG) 환경에도 연동할 수 있어 AI 인프라 구성과 관계없이 보안 계층을 추가할 수 있도록 구성됐다.

최근 생성형 AI와 AI 에이전트 도입이 확산되면서 프롬프트 인젝션과 민감정보 유출, 지능적 탈옥 등 새로운 보안 위협도 함께 커지고 있다.

에이전트고 가드는 이러한 위험을 사전에 통제하기 위해 AI 시스템과의 상호작용을 관리하는 다층 방어 체계를 적용했다. 사내 애플리케이션과 RAG, 에이전트 워크플로에 응용프로그램인터페이스(API) 형태로 연동해 보안 기능을 적용하도록 지원한다.

특히 금칙어·정규식 필터링부터 자연어 기반 문맥 분석, 대형언어모델(LLM) 기반 가드레일까지 다단계 탐지 체계를 갖췄다. 여러 차례 대화를 반복하며 방어 체계를 점진적으로 무력화하는 '에코 챔버' 공격과 지능적인 우회·탈옥 시도를 세션 단위로 실시간 식별·차단한다.

민감정보 유출을 방지하기 위한 정보유출방지(DLP) 기능도 탑재했다. 금융결제원 CMS 계좌번호 체계 17종과 국토교통부 차량번호 정규식을 지원한다. 한국정보통신기술협회(TTA) 대분류 15종과 미국 국립표준기술연구소(NIST), 유럽연합(EU) 일반개인정보보호법(GDPR) 기준을 준수하는 자연어 처리 모델을 활용해 이름과 주소, 주민등록번호 등 민감정보를 비식별화한다.

실제 운영 환경에 적용하기 전 보안 정책을 검증할 수 있는 기능도 마련했다. 사전 시뮬레이터를 활용해 가상의 샌드박스 환경에서 보안 정책과 공격 시나리오를 검증하고 오탐과 미탐을 고려해 정책 수치를 조정할 수 있다.

감사 추적과 실시간 알림 기능도 지원한다. 모든 호출 로그를 AES-256 및 크로스사이트스크립팅(xss) 방지 처리해 저장하고 관리자가 로그를 열람할 경우 사유를 입력하도록 했다. 설정된 탐지 임계치를 기준으로 이상이 발생하면 담당자에게 이메일 알림도 발송한다.

에이전트고 가드는 퍼블릭 클라우드뿐 아니라 폐쇄망 내 도커와 쿠버네티스 환경에도 배포할 수 있도록 설계됐다. 자사 에이전트 플랫폼뿐 아니라 타사 플랫폼과도 연동할 수 있어 기존 AI 에이전트를 운영하는 기업도 별도 시스템 개편 없이 보안 계층을 추가할 수 있다는 게 회사 측 설명이다.

아이티센그룹은 이를 기반으로 내부 AI 서비스와 RAG 기반 업무 에이전트를 구축하는 기업·기관을 비롯해 컴플라이언스 준수가 중요한 금융·공공 분야를 공략할 계획이다.

정승모 아이티센글로벌 AI이노베이션센터장은 "에이전트고 가드는 AI의 비윤리적·혐오적 표현, 프롬프트 인젝션, 기밀 유출, 환각 현상으로 인한 거짓 정보를 사전에 통제하는 엔터프라이즈 AI의 핵심 방어선"이라며 "기업들이 리스크 없이 안전하게 AI 생산성을 극대화할 수 있도록 적극 지원할 것"이라고 밝혔다.