AI 탈옥·정보 유출 막는다…아이티센클로잇, 기업용 '가드레일' 공개

아이티센클로잇이 기존 사내 챗봇과 인공지능(AI) 에이전트를 바꾸지 않고도 질문과 답변 양쪽에 보안 장치를 적용할 수 있는 솔루션을 선보였다.

아이티센클로잇은 7일 서울 코엑스에서 열린 'AI 페스타 2026'에서 기업용 AI 보안 솔루션 '에이전트고 가드'를 공개했다. 현장에서는 AI가 사용자의 질문을 받기 전과 답변을 내보내기 전에 위험 요소를 검사하고 차단하는 과정을 시연했다.

에이전트고 가드는 기업이 이미 사용하고 있는 사내 챗봇과 검색증강생성(RAG), 사내 거대언어모델(LLM)을 교체하지 않고 보안 기능을 추가할 수 있도록 설계됐다. 아이티센클로잇은 이를 '지금 쓰는 AI는 그대로, 보안만 더하세요'라는 문구로 소개했다.

아이티센클로잇 관계자가 AI 페스타 2026 참관객에게 자사 솔루션을 설명하고 있다. (사진=지디넷코리아)

에이전트고 가드는 사용자의 질문이 AI에 전달되기 전에 개인정보와 금칙어를 검사하고 프롬프트 인젝션이나 탈옥처럼 안전장치를 우회하려는 시도를 탐지한다. 답변이 생성된 뒤에도 내용을 다시 검사해 개인정보 노출과 유해 콘텐츠, 내부 정책 위반 여부를 확인한다.

기업별 보안 기준도 직접 설정할 수 있다. 관리자는 혐오 표현과 성희롱, 욕설 등 금칙어를 지정하고 이를 각 AI 서비스에 적용할 수 있다. 부스에서는 금칙어와 차단 정책을 설정하고 관리하는 화면을 시연했다.

여러 AI 서비스의 이용 현황도 한곳에서 관리한다. 대시보드에서 서비스별 사용량과 차단 내역, API 호출 기록을 확인하고 문제가 발생한 시점과 내용을 추적할 수 있다. 부서마다 다른 AI를 사용하더라도 보안 정책은 중앙에서 관리할 수 있도록 했다.

설치 환경은 퍼블릭 클라우드부터 온프레미스, 폐쇄망까지 지원한다. 외부로 데이터를 보내기 어려운 공공·금융·의료·제약 분야에서도 사용할 수 있다.

관련기사

아이티센클로잇 '에이전트고 가드'의 금칙어 관리 화면. 기업별 보안 정책에 따라 AI에서 차단할 표현을 설정할 수 있다. (사진=지디넷코리아)

에이전트고 가드는 아이티센클로잇의 멀티 AI 에이전트 관리 플랫폼 '에이전트고'와도 연결된다. 에이전트고는 기업이 AI 에이전트를 만들고 여러 업무 시스템과 연결하는 것부터 권한과 사용량, 보안 정책을 관리하는 과정까지 지원한다.

아이티센클로잇 관계자는 "기업들이 다양한 AI 서비스를 업무에 빠르게 도입하면서 이제는 AI를 얼마나 잘 쓰는 것뿐 아니라 안전하게 통제할 수 있느냐가 중요해지고 있다"며 "기존 AI 환경을 크게 바꾸지 않고도 보안과 거버넌스를 적용할 수 있도록 지원 범위를 확대해 나갈 것"이라고 말했다.