AI 에이전트 '통제 불능' 되나…"보안 대비책 미비"

세일포인트 "민감 데이터 공유·의도치 않는 작업 수행 사례 속출"

인공지능(AI) 에이전트가 기업 내 새로운 보안 위협으로 부상했다는 조사 결과가 나왔다.

5일 세일포인트가 발간한 'AI 에이전트: 보안의 새로운 공격 표면' 보고서에 따르면 기업 내 AI 에이전트 관리 체계가 미흡한 것으로 나타났다. 해당 조사는 전 세계 보안·IT 리더 353명 대상으로 실시됐다. 

보고서에서 응답 기업 82%는 이미 AI 에이전트를 활용하고 있다고 답했다. 이중 절반 이상은 AI 에이전트가 승인되지 않은 시스템에 접근하거나 민감 데이터를 부적절하게 공유하는 등 의도하지 않은 작업을 수행한 사례를 본 적 있다고 답했다. 응답자 23%는 에이전트가 액세스 자격 증명을 유도당해 외부에 데이터를 노출한 사례까지 경험한 것으로 나타났다. 

인공지능(AI) 에이전트가 기업 내 새로운 보안 위협으로 부상했다는 조사 결과가 나왔다. (사진=구글제미나이)

응답자 72%는 AI 에이전트가 기존 머신 아이덴티티보다 더 큰 보안 위협을 초래한다고 응답했으며, 54%는 AI 에이전트가 일반 사용자보다 더 많은 시스템과 데이터에 접근해야 하는 구조라고 답했다. 특히 액세스 승인 절차 없이 IT 부서에서만 빠르게 권한이 부여되는 점도 위험 요소로 지목됐다.

AI 에이전트 관리 체계는 크게 미흡한 것으로 드러났다. 응답자 92%가 AI 에이전트 거버넌스가 기업 보안에 매우 중요하다고 답했지만 실제 관련 정책을 도입한 기업은 44%에 그쳤다. AI 에이전트의 데이터 접근 여부를 파악하고 있는 부서는 대부분 IT에 국한됐다. 경영진이나 법무, 컴플라이언스 부서와는 정보 공유가 거의 이뤄지지 않는 것으로 조사됐다.

특히 응답 기업 중 48%는 AI 에이전트가 어떤 데이터에 접근했는지 추적하거나 감시할 수 없는 상태라고 대답했다. 이로 인해 데이터 유출, 컴플라이언스 위반, 고객 신뢰 상실 등의 리스크가 더욱 커질 수 있다는 지적이 나오고 있다.

실제 기업이 우려하는 주요 보안 리스크는 ▲특수 권한이 필요한 데이터 접근(60%) 의▲도하지 않은 작업 수행(58%) 부▲적절한 데이터 공유(57%) ▲검증되지 않은 데이터에 기반한 의사결정(55%) 등이었다. 내부 악의적 행위자에 의한 정보 유출(38%)과 외부 해킹(29%) 사례도 확인됐다.

찬드라 나나삼반담 세일포인트 제품 부문 수석부사장(EVP) 겸 최고기술책임자(CTO)는 "기업들은 AI 에이전트 사용을 확대함에 따라 아이덴티티 중심(Identity-first) 접근 방식을 채택해야 한다"며 "AI 에이전트가 인간과 마찬가지로 실시간 권한 관리, 최소 권한 원칙 적용, 모든 활동에 대한 완전한 가시성 확보 등 엄격한 거버넌스 아래 관리돼야 한다"고 강조했다.