에임인텔리전스, 'AI 레드티밍·가드레일'로 안전한 AI 생태계 구축

인공지능(AI) 보안 전문 기업 에임인텔리전스가 AI 시스템을 공격해 취약점을 찾는 레드팀과 AI 행동을 실시간으로 통제하는 가드레일을 결합해 AI 생애주기 전체를 관리하는 플랫폼을 구축하겠다는 청사진을 제시했다.

박하언 에임인텔리전스 최고기술책임자(CTO)는 지난 7일 삼성금융캠퍼스에서 열린 'AI 리스크 컨퍼런스 서울 2026'에서 AI 안전 전략을 소개했다.

박 CTO는 이날 "이제 중요한 질문은 AI를 어디에 활용할 것인가가 아니다. 누가 AI를 통제하고, 어떻게 통제할 것인지를 고민해야 한다"고 강조했다.

생성형 AI가 빠르게 발전하면서 위험도 함께 커지고 있다는 것이 박 CTO의 진단이다. 심지어 AI는 이제 스스로 행동하는 에이전트를 거쳐 실제 물리적 환경에서 움직이는 피지컬 AI 시대로 진입하고 있다.

그는 "에임인텔리전스 레드티밍 결과 가장 안전하다고 평가받는 AI 모델조차 10분 안에 탈옥(Jailbreak)이나 인격 변조가 가능했다"며 "뿐만 아니라 새로운 AI 취약점은 계속 등장하기 때문에 단순히 취약점을 찾는 것이 아니라 국제 표준과 프레임워크를 기반으로 객관적으로 평가하는 것이 중요하다"고 말했다.

박하언 에임인텔리전스 CTO가 지난 7일 삼성금융캠퍼스에서 열린 'AI 리스크 컨퍼런스 서울 2026'에서 발표하고 있다.

이처럼 AI 모델의 취약점을 발굴하고 조치하는 것만으로는 AI를 안전하게 활용하는 데 한계가 있다는 것이 박 CTO의 판단이다. 이에 에임인텔리전스는 AI 레드티밍과 더불어 AI 통합 관리 플랫폼이자 가드레일인 '스타포트(Starport)'를 선보여 AI 모델과 챗봇, AI 에이전트를 실시간으로 통제하는 환경을 지원한다는 계획이다.

스타포트는 AI 모델과 챗봇, AI 에이전트를 실시간으로 통제하는 플랫폼이다. 핵심에는 '가디언(Guardian)'이라 불리는 경량 AI 가드레일 모델이 탑재된다.

이 모델은 기업 내부 또는 온프레미스 환경에 구축돼 AI 서비스 앞단과 뒷단에서 프롬프트와 응답을 실시간으로 검사한다. 개인정보나 민감정보가 외부 생성형 AI 서비스로 전송될 경우 자동으로 마스킹하거나 차단하며, 기업 정책에 맞게 AI 활용을 통제한다.

특히 AI 에이전트는 다양한 하위 에이전트와 외부 도구, API를 활용해 작업을 수행하기 때문에 전체 실행 과정을 관리해야 한다. 이에 스타포트는 기업 내 AI 모델과 에이전트 현황을 파악하는 인벤토리 기능과 AI 간 데이터 이동 및 권한 사용을 분석하는 관측(Observation) 기능을 제공한다. 이후 정책 기반으로 허용과 차단, 권한 제어까지 하나의 플랫폼에서 수행하도록 구성했다.

박 CTO는 이어 "현재 에임인텔리전스는 60개 이상의 AI 모델을 대상으로 레드팀 테스트를 수행했으며, 해외 20여 개 기업에 관련 솔루션을 공급하고 있다"며 "또한 58개 이상의 글로벌 보안 프레임워크와 매핑해 결과를 제공하고 있으며, 약 1200만 명이 사용하는 서비스에 가드레일 기술이 적용됐고, 10만 개 이상의 AI 에이전트를 관리하고 있다"고 소개했다.