MS "올해는 AI 에이전트 해…보안 가시성 확보가 기업 경쟁력 가를 것"

글로벌 기업들의 인공지능(AI) 에이전트 도입이 전 산업군으로 가파르게 확산되면서, 보안 리스크 관리를 위한 거버넌스 구축이 기업 핵심 과제로 부상했다. 포춘 500대 기업의 80% 이상이 에이전트를 실무에 투입한 가운데, 전문가들은 가시성 확보와 제로 트러스트 보안 원칙 수립이 안전한 도입의 성패를 가를 것이라고 분석했다.

11일 마이크로소프트는 이러한 내용을 담은 AI 보안 보고서 '사이버 펄스'를 공개했다.

보고서는 향후 AI 경쟁력을 결정짓는 핵심 요건으로 부서 간 협업을 꼽았다. 비즈니스·정보기술(IT)·보안팀이 유기적으로 협력해 에이전트 활동을 관측하고, 전사적인 거버넌스를 적용하는 조직만이 도입 효과를 극대화할 것이라는 분석이다.

AI 에이전트 도입은 특정 지역과 산업을 중심으로 이미 구체화하고 있다. 보고서에 따르면 지역별 활성 에이전트 비중은 유럽·중동·아프리카 42%, 미국 29%, 아시아 19% 순으로 나타났다.

산업별로는 소프트웨어·기술 16%, 제조업 13%, 금융 서비스 11%를 기록했다. 마이크로소프트는 '코파일럿 스튜디오'와 '에이전트 빌더' 등을 통해 기업이 직접 에이전트를 구축할 수 있는 환경을 제공하고 있다.

도입 속도가 보안 통제 수준을 앞지르면서 '그림자 AI' 리스크도 커지고 있다. 악의적인 행위자가 에이전트 권한을 악용해 의도치 않은 이중 에이전트로 전락시키는 사례가 대표적이다.

실제 마이크로소프트 디펜더 팀은 AI 어시스턴트의 메모리를 조작해 응답을 유도하는 '메모리 포이즈닝' 공격 캠페인을 포착했다. 마이크로소프트 AI 레드 팀은 유해한 지침을 따르거나 추론 방향이 왜곡되는 사례를 확인했다.

하이포테시스 그룹 조사에 따르면 직원의 29%가 미승인 AI 에이전트를 업무에 사용한 경험이 있었다. 반면 생성형 AI 보안 보호장치를 도입한 조직은 47%에 불과했다. 이에 보고서는 에이전트 보안 출발점으로 가시성 확보를 제시하며 이를 위해 ▲레지스트리 ▲액세스 제어 ▲시각화 ▲상호 운용성 ▲보안 등 5가지 핵심 영역을 관리해야 한다고 제언했다.