아웃시스템즈 "AI 에이전트 운영 자신감 높지만 충돌 대응 준비 부족"

아웃시스템즈가 기업의 에이전틱 인공지능(AI) 도입 현황을 분석한 보고서를 발표했다. 기업 임원 상당수가 AI 에이전트를 관리할 역량을 갖췄다고 평가했지만, 에이전트 간 충돌을 해결할 준비가 됐다고 답한 비율은 26%에 그쳤다.

AI 에이전트 활용이 개별 업무 자동화에서 여러 시스템과 프로세스를 연계하는 단계로 확대되면서, 실제 운영 환경에 적합한 관리 체계 마련이 과제로 떠올랐다.

아웃시스템즈는 CIO 다이브(CIO Dive), KPMG와 공동으로 작성한 '비즈니스 성과 창출을 위한 에이전틱 시스템으로의 전환(Engineering Business Outcomes: The Shift to Agentic systems)' 보고서에서 이 같은 조사 결과를 공개했다고 21일 밝혔다.

조사에 참여한 기업 임원의 82%는 AI 에이전트가 실제 운영 환경에 도입되더라도 관리·통합·모니터링 역량을 유지할 수 있다고 답했다. 그러나 AI 에이전트와 기존 시스템, 자동화된 워크플로우 사이에서 발생하는 충돌을 해결할 준비가 충분하다고 응답한 비율은 26%에 불과했다.

기업의 에이전틱 AI 도입 범위는 점차 넓어지고 있다. 응답자의 71%는 향후 5년 안에 애플리케이션이 여러 시스템과 팀, 비즈니스 프로세스에 걸친 업무를 조율하거나 복잡한 다단계 워크플로우를 지원할 것으로 전망했다. 개별 AI 에이전트의 성능뿐 아니라 여러 에이전트의 상호작용과 예외 상황까지 관리할 수 있는 운영 체계가 중요해지고 있다는 분석이다.

아웃시스템즈 최고정보책임자(CIO) 티아고 아제베도(Tiago Azevedo)는 "기업 임원의 82%는 AI 에이전트를 관리할 역량을 갖추고 있다고 답했지만, 에이전트 간 충돌을 해결할 수 있다고 응답한 비율은 26%에 불과했다. 이러한 격차를 줄이는 것이 핵심 과제"라며 "실제 기업 전반에 AI 에이전트를 도입하고 운영한 경험을 통해 안전성을 확보하려면 사후 점검보다 플랫폼 자체에 관리 체계를 마련하는 것이 중요하다"고 말했다.

이어 "AI 에이전트 운영 중에 정해진 정책과 기준을 적용할 수 있다면 기업은 시스템의 신뢰성을 매번 확인하기 위해 업무를 중단할 필요 없이 더욱 빠르게 운영할 수 있을 것"이라고 덧붙였다.

조사 결과 기업들은 AI 에이전트 관리에 기존 IT·보안·컴플라이언스 절차와 별도 검토 과정, 중앙집중식 정책 및 모니터링 체계 등을 활용하고 있었다. 응답자의 83%가 이 같은 관리 방식을 적용하고 있다고 답했다. 하지만 자동화된 관리 기능과 감사 기록, 공식적인 인적 검토 절차를 모두 갖춘 기업은 5%에 그쳤다. 기존 관리 체계를 AI 에이전트가 작동하는 환경 전반에 일관되게 적용할 수 있도록 개선해야 한다는 지적이다.

에이전틱 AI 운영 환경이 복잡해지면서 기업들이 고려하는 과제도 다양해졌다. 응답자의 74%는 기존 애플리케이션 및 시스템과의 통합을 주요 과제로 꼽았다. 시스템 전반에 걸쳐 AI 에이전트의 작업을 조율하는 오케스트레이션은 63%, 필요에 따라 AI 모델과 공급업체, 플랫폼을 변경할 수 있는 유연성은 62%로 나타났다.

보고서는 에이전틱 AI 도입 확대에 따라 개별 에이전트의 기능 검증을 넘어 시스템 전체의 신뢰성을 확인하는 작업이 중요해지고 있다고 분석했다. 응답자의 81%는 AI 플랫폼이나 도구를 선택할 때 에이전트 동작에 대한 테스트·평가·검증이 매우 중요하다고 답했다. 에이전트 간 상호작용과 예외 상황 처리, 작업 충돌 및 복구 기능까지 검증 범위를 넓혀야 한다는 설명이다.

기업 내부 데이터와 업무 맥락을 활용하는 역량도 주요 과제로 꼽혔다. 응답자의 35%는 데이터 일관성 유지와 컨텍스트 공유를 오케스트레이션의 주요 어려움으로 지목했다. 일반적인 AI 모델의 학습 정보에만 의존하기보다 기업 정책이 반영된 데이터와 애플리케이션 상태, 업무 프로세스를 바탕으로 에이전트가 작동해야 한다는 의미다.

기업들은 에이전틱 AI 도입 성과를 평가할 때 오류 감소를 가장 중시하는 것으로 나타났다. 응답자의 64%가 오류 감소를 주요 성과 지표로 꼽았으며, 규정 준수 및 위험 감소, 직원 생산성 향상, 비용 절감 등이 뒤를 이었다.

아시아태평양(APAC) 지역에서는 직원 생산성을 성과 지표로 활용하는 비율이 73%로 집계됐다. 유럽(52%)과 북미(45%)보다 높은 수준이다. 반면 전 세계 응답자 가운데 에이전틱 AI를 활용해 신제품·서비스 출시나 새로운 고객 경험 제공을 앞당겼다고 답한 비율은 12%에 그쳤다. 업무 효율 개선에 비해 새로운 사업 기회 창출 등 기업 전반의 혁신 효과는 아직 제한적이라는 분석이다.

아태 지역은 AI 에이전트 운영 준비 수준에서도 상대적으로 높은 수치를 보였다. 에이전트 간 충돌을 해결할 준비가 충분하다고 답한 비율은 39%로 유럽(29%)과 북미(18%)를 웃돌았다. 자동화된 관리 기능과 감사 기록, 인적 검토 절차를 모두 갖췄다고 답한 비율도 아태 지역은 14%로 유럽(3%)과 북미(2%)보다 높았다. 이번 조사에는 아태 지역 조사 대상국인 호주·인도·일본에서 209명이 참여했다.