[유미's 픽] 업무 전 과정 AI에 맡겼더니…통합 플랫폼 관리비 '눈덩이'

데이터 정비·시스템 연동·권한 통제 부담 가중…에이전틱 AI 프로젝트 40% 이상 중단 전망

기업용 인공지능(AI) 에이전트 도입이 확산하고 있지만 비용 절감 효과를 낙관하기 어렵다는 경고가 잇따르고 있다. 직원의 반복 업무를 줄일 수 있다는 기대와 달리 데이터 정비와 시스템 연동, 권한 관리, 오류 검수에 추가 비용이 발생하면서 기업 부담이 커질 수 있어서다.

16일 업계에 따르면 글로벌 기업용 소프트웨어 업체들은 최근 고객관계관리(CRM), 마케팅, 영업, 고객서비스 업무를 수행하는 AI 에이전트를 앞다퉈 선보이고 있다. 직원이 목표를 입력하면 AI가 고객 데이터를 분석하고 콘텐츠를 제작한 뒤 캠페인 실행과 성과 관리까지 맡는 방식이다.

하지만 실제 기업 환경에선 도입 과정이 단순하지 않다. 고객 정보가 여러 시스템에 흩어져 있고 부서마다 데이터 형식과 승인 절차가 다른 경우가 많아서다. 또 AI가 업무를 수행하려면 데이터를 정비하고 기존 애플리케이션을 연결해야 할 뿐 아니라 직원별 접근 권한과 개인정보 보호 정책, 오류 차단 장치도 새로 마련해야 한다.

(제작=챗GPT)

이 탓에 기업들이 부담해야 할 구축·운영 비용도 커질 가능성이 높다. 실제 글로벌 컨설팅업체 베인은 기업이 에이전틱 AI 기반을 구축하는 데 향후 3~5년간 기술 예산의 5~10%를 투입할 수 있다고 전망했다. 에이전트 플랫폼뿐 아니라 실시간 데이터 접근 환경과 보안, 모니터링 체계를 갖추는 데 비용이 들어가기 때문이다.

인력 절감 효과도 제한적일 수 있다. AI가 고객에게 메시지를 발송하거나 가격과 주문 정보를 다룰 경우에는 결과를 검수하고 행동 기록을 감시할 인력이 필요하다. 또 개인정보 유출이나 잘못된 주문 처리 등 사고가 발생하면 원인을 추적하고 책임 범위를 판단하는 업무도 추가된다.

월가에서도 AI 도입이 곧바로 비용 절감으로 이어지지는 않을 것이라고 지적했다. 제이미 다이먼 JP모건 최고경영자(CEO)는 최근 실적 발표에서 일부 조직의 인력이 AI 도입 이후 30~40% 줄었지만 회사 전체 운영비가 급격히 감소하는 것은 아니라고 밝혔다. 또 경쟁사도 같은 기술을 도입하는 만큼 생산성 향상이 이익률 개선으로 그대로 이어지기 어렵다고 강조했다.

모델 이용료도 새로운 부담으로 꼽힌다. 기존 기업용 소프트웨어는 직원 수를 기준으로 요금을 부과했지만 AI 에이전트는 작업량과 모델 호출 횟수, 처리 결과에 따라 비용이 달라질 수 있다. 하나의 업무를 수행하는 과정에서 여러 시스템과 AI 모델을 반복 호출하면 실제 사용액을 예측하기도 쉽지 않다.

딜로이트는 AI 에이전트 확산으로 좌석 기반 구독제가 사용량과 성과를 반영하는 과금 방식으로 바뀔 가능성이 있다고 내다봤다. 소프트웨어 비용 산정과 예산 관리가 더 복잡해질 수 있다는 의미다. AI 에이전트가 기존 기업용 애플리케이션을 본격적으로 대체하는 데도 5년 이상이 필요할 것으로 전망했다.

대규모 투자에도 성과를 내지 못한 기업도 적지 않다. 보스턴컨설팅그룹 조사에선 상당한 투자를 집행한 기업의 60%가 매출 증가나 비용 절감에서 뚜렷한 성과를 얻지 못한 것으로 나타났다. AI를 전사적으로 확장해 실질적인 가치를 낸 기업은 데이터와 기술뿐 아니라 업무 절차와 인력 운영 체계까지 함께 바꾼 곳에 집중됐다.

맥킨지 조사에서도 응답자의 88%가 최소 1개 업무에서 AI를 정기적으로 사용하고 있다고 답했지만, AI 프로그램을 확장 단계로 옮긴 기업은 약 3분의 1에 그쳤다. AI 에이전트를 최소 1개 업무에서 확장 중이라는 응답도 23%였으며, 39%는 아직 시험 단계에 머물렀다. 이는 제품 도입이 전사 성과로 이어지기까지 적지 않은 시간이 필요하다는 의미다.

(제작=챗GPT)

마케팅과 고객서비스처럼 외부 고객과 직접 접촉하는 업무에선 오류 위험이 커진다는 것도 부담 요인이다. 일반 챗봇의 오답은 답변에 그칠 수 있지만 실행 권한을 가진 에이전트의 오류는 잘못된 고객 분류와 메시지 발송, 할인 적용, 주문 변경으로 이어질 수 있다. 이에 기업은 AI가 처리하는 업무가 늘어날수록 승인 절차와 접근 권한, 행동 기록을 더 세밀하게 관리해야 한다.

시장조사업체 가트너는 비용 증가와 불명확한 사업 가치, 부족한 위험 통제로 인해 2027년 말까지 에이전틱 AI 프로젝트의 40% 이상이 중단될 것으로 전망했다. 기존 챗봇이나 자동화 제품에 에이전트라는 명칭을 붙이는 '에이전트 워싱'도 확산하고 있다고 지적했다.

업계에선 기업이 AI 에이전트 도입 효과를 따질 때 단순 업무시간 단축보다 전체 소유비용을 기준으로 판단해야 한다는 목소리가 커지고 있다. 소프트웨어 이용료와 모델 호출비뿐 아니라 데이터 정비, 시스템 통합, 보안, 검수 인력, 사고 대응 비용까지 포함해야 실제 투자수익률을 확인할 수 있다고 봐서다.

아누슈리 베르마 가트너 수석 디렉터 애널리스트는 "많은 기업이 AI 에이전트를 대규모로 배치하는 데 필요한 실제 비용과 복잡성을 보지 못하고 있다"며 "과장된 기대를 걷어내고 어디에 어떻게 적용할지 신중하게 결정해야 한다"고 말했다.