[현장] "AI 시대 커지는 보안 리스크"…데이터독, 통합 보안으로 해결

인공지능(AI) 확산과 함께 프롬프트 인젝션과 데이터 유출, 에이전트 AI 통제 문제 등 새로운 보안리스크가 확산되고 있다.

이에 대응하기 위해 AI 거버넌스와 보안 체계 구축이 기업 핵심 과제로 부상했다.

데이터독은 9일 서울 강남구 데이터독코리아 오피스에서 개최한 '대시(DASH) 2026 미디어 라운드테이블'을 통해 보안과 옵저버빌리티를 통합한 AI 운영 전략을 공개했다.

이번 행사는 데이터독의 연례 컨퍼런스 '대시 2026'의 주요 발표 내용과 국내 시장 전략을 소개하기 위해 마련됐다.

프롬프트 인젝션·데이터 유출...AI시대 급증하는 보안위협

대시 2026에서 데이터독은 생성형 AI와 AI 에이전트 확산으로 기업 IT 운영 환경이 복잡해지면서 장애 대응과 보안, 거버넌스를 통합 관리하는 체계의 중요성이 커지고 있다고 강조했다.

특히 기업들이 복수의 거대언어모델(LLM)과 AI 에이전트를 동시에 활용하는 환경으로 이동하면서 기존 모니터링만으로는 운영 안정성과 비용, 보안 리스크를 관리하기 어렵다고 진단했다.

엄수창 데이터독코리아 지사장은 AI 도입이 빠르게 확산되고 있지만 이를 관리하기 위한 체계는 아직 성숙하지 못했다고 진단했다.

그는 "과거에는 하나의 AI 모델을 사용하는 수준이었다면 최근에는 3개 이상의 LLM을 동시에 활용하는 멀티 모델 환경이 일반화되고 있다"며 "AI 사용량은 폭발적으로 증가하고 있지만 거버넌스와 운영, 보안 체계는 그 속도를 따라가지 못하고 있다"고 말했다.

이어 "기업이 가장 크게 고민하는 부분은 AI 오남용과 비용 관리, 그리고 보안"이라며 "AI가 모든 IT 인프라의 기본 요소가 되면서 기존과는 다른 형태의 보안 위협이 등장하고 있다"고 설명했다.

데이터독은 특히 AI 환경에서 프롬프트 인젝션, 데이터 유출, 자율 실행 에이전트에 따른 통제 문제를 주요 위험 요소로 꼽았다. 악의적인 프롬프트를 통해 AI를 조작하거나 민감한 데이터가 외부로 노출되는 사례가 늘고 있으며, 에이전트 AI가 실제 업무를 수행하는 단계로 발전하면서 통제되지 않은 행동이 새로운 리스크로 떠오르고 있다는 분석이다.

엄 지사장은 "AI 오남용 사례의 상당 부분이 데이터 침해와 연결된다"며 "AI 도입이 늘어날수록 기업은 거버넌스와 보안을 함께 고민할 수밖에 없는 상황"이라고 말했다.

사후 대응 넘어 사전 탐지·자동 대응으로

데이터독은 이 같은 위협에 대응하기 위해 보안과 옵저버빌리티를 결합한 통합 플랫폼 전략을 제시했다. 기존에는 인프라 운영과 보안 관제가 별도의 영역으로 운영됐지만 AI 환경에서는 운영 데이터와 보안 데이터가 함께 분석돼야 한다는 설명이다.

정영석 기술총괄은 "AI 시대에는 장애와 보안 문제가 서로 분리돼 발생하지 않는다"며 "모델 성능 저하와 데이터 이상, 보안 위협이 동시에 나타나는 만큼 통합적인 가시성이 필요하다"고 말했다.

그는 "기존 옵저버빌리티가 시스템 가용성과 지연시간, 오류를 확인하는 데 초점을 맞췄다면 AI 시대에는 응답 품질과 데이터 드리프트, 프롬프트부터 응답 생성까지의 전 과정을 관찰해야 한다"고 설명했다.

이를 위해 데이터독은 AI 애플리케이션 전 구간을 추적하는 기능과 함께 AI 보안 가드레일, 실시간 위협 탐지, 이상 행위 분석 기능 등을 공개했다. 프롬프트 입력부터 모델 추론, 응답 생성에 이르는 과정을 추적해 비정상적인 접근이나 악성 프롬프트, 민감정보 노출 가능성을 탐지할 수 있도록 지원한다.