시큐웨이브 "생성형 AI 도입 빨라져 공격 표면 확장"

'F5 AI 가드레일 랩' 성료…실제 운영 환경 기준 AI 보안 데모 공유

기업의 생성형 인공지능(AI) 활용이 본격화되는 가운데 시큐웨이브가 생성형 AI 보안 대응 전략을 제시했다.

시큐웨이브는 이달 11일과 18일 양일간 F5 고객 및 파트너사를 대상으로 'F5 AI 가드레일 랩 쇼(F5 AI Guardrails Lab Show 2026)'를 개최하고 생성형 AI 서비스 확산에 따라 기업 운영 환경에서 중요성이 커지고 있는 AI 보안 위협과 대응 전략을 소개했다고 30일 밝혔다.

시큐웨이브는 글로벌 애플리케이션 전송 및 보안 기업 F5의 총판을 맡고 있다.

이번 행사는 기업의 생성형 AI 활용이 본격화되는 가운데, 프롬프트 인젝션, Jailbreak, 민감정보 유출, 부적절한 응답 생성, AI 에이전트 오남용 등 실제 서비스 운영 과정에서 발생할 수 있는 보안 리스크를 점검하고, 안전한 AI 서비스 운영을 위한 보안 체계 수립 방안을 공유하기 위해 마련됐다. 고객 및 파트너사를 대상으로 진행된 만큼, 현장에서 적용 가능한 기술 인사이트와 데모 중심의 실질적인 내용으로 구성됐다.

'F5 AI 가드레일 랩 쇼(F5 AI Guardrails Lab Show 2026)' 현장.(사진=시큐웨이브)

행사에서는 ▲생성형 AI 보안 트렌드 및 주요 위협 동향 ▲AI 애플리케이션 런타임 보호 전략 ▲F5 AI 가드레일 핵심 기능 및 적용 시나리오 ▲프롬프트 인젝션·Jailbreak 대응 데모 ▲AI 레드팀 기반 보안성 검증 ▲참석자 Q&A 및 네트워킹 세션 등이 마련됐다.

김정 시큐웨이브 부장은 세션 발표에서 "생성형 AI 도입이 가속화되면서 공격 표면이 모델 자체를 넘어 애플리케이션, API, 사용자 입력, 데이터 흐름 전반으로 확대되고 있다"고 강조했다.

김 부장은 특히 프롬프트 인젝션, Jailbreak 데이터 유출, 악성 의도 탐지 우회, AI 에이전트 오남용 등 런타임 단계에서 발생하는 위협 사례를 중심으로, 기업이 AI 서비스를 안전하게 운영하기 위해 필요한 정책 기반 제어, 입력·출력 검증, 민감정보 보호, 지속적인 위협 모니터링의 중요성을 강조했다.

이어 조광희 오픈베이스 차장은 F5 AI 가드레일 데모 시연을 통해 실제 운영 환경을 가정한 AI 보안 적용 사례를 소개했다. 참석자들은 LLM 기반 보안 엔진을 활용한 인텐트&콘텍스트 분석, 자연어 기반 정책 제어 등 F5 AI 가드레일의 주요 기능을 확인하며 AI 서비스 운영 과정에서 발생할 수 있는 다양한 위협에 대한 대응 방안을 살펴봤다.

또한 AI 레드팀을 활용한 프롬프트 인젝션 및 Jailbreak 공격 검증 등 최신 AI 공격 패턴을 반영한 보안성 검증 사례가 함께 시연됐다.

행사 현장에는 금융, 제조, 공공 등 다양한 산업군의 고객 및 파트너들이 참석했다. 참석자들은 생성형 AI 도입이 빠르게 확산되는 상황에서 고객 환경에 적용 가능한 AI 런타임 보안 전략과 실제 데모를 통해 구현 방식을 확인할 수 있었다는 점에 높은 관심을 보인 것으로 전해졌다.