"AI에 돈 쏟아붓는데"…韓 기업, 투자 늘려도 확장에 '발목' 잡힌 이유는

클라우데라, 글로벌 9개국 기업 AI 현황 조사…국내 기업 49% 연간 100만 달러 이상 투자

국내 기업들이 인공지능(AI) 투자를 빠르게 확대하고 있지만 거버넌스와 데이터 주권 문제가 AI 확산의 걸림돌로 작용하고 있는 것으로 나타났다. AI 도입이 본격화되면서 기업들이 투자 규모를 늘리는 동시에 데이터 통제와 규제 대응, 운영 환경의 유연성을 확보해야 하는 부담도 커진 분위기다.

4일 클라우데라가 전 세계 9개국 IT 리더 및 의사결정권자 1500명을 대상으로 진행한 '2026 기업용 AI 현황: 확장의 새로운 규칙' 보고서에 따르면 국내 응답자의 72%는 1년 전보다 AI 투자를 늘렸다고 답했다. 이는 아시아태평양 지역 평균(58%)과 글로벌 평균(55%)을 웃도는 수준이다.

또 국내 응답자의 19%는 AI 투자가 크게 증가했다고 밝혔다. 투자 규모도 상대적으로 컸다. 국내 기업의 68%는 AI 사업에 연간 50만 달러 이상을 투입하고 있으며 100만 달러 이상을 지출하는 기업도 49%에 달했다. 이는 아태지역 평균(32%)보다 17%포인트 높은 수치다.

지난 8월 20일(현지시간) 싱가포르 마리나베이샌즈에서 개최된 '클라우데라 이볼브26'에서 아바스 리키 클라우데라 최고사업책임자(CBO) 겸 응용 AI 부문 총괄이 발표하고 있다. (사진=지디넷코리아)

하지만 AI 투자 확대에도 실제 활용 범위를 넓히는 데는 적지 않은 어려움이 있는 것으로 조사됐다. 국내 기업들이 AI 확장의 가장 큰 제약으로 꼽은 요인은 거버넌스 및 컴플라이언스(62%)였다. 데이터 주권(56%), 기술 및 전문성 부족(51%), 데이터 통합(50%) 등이 뒤를 이었다.

데이터 주권 문제는 AI 인프라 운영 방식에도 영향을 미치고 있었다. 국내 응답자의 82%는 데이터 저장 위치와 주권, 국가별 규제 요건이 AI 워크로드 배치에 영향을 준다고 답했다. 또 66%는 AI 워크로드를 다른 환경으로 이전할 경우 중간 규모 이상의 재설계가 필요하다고 응답했다. 이는 글로벌 평균(58%)보다 8%포인트 높은 수준이다.

국내 기업들이 여러 환경에서 AI를 운영하는 주요 이유로는 데이터 주권 및 저장 위치 요건(47%)이 가장 많이 꼽혔다. AI 워크로드를 기업 데이터와 가까운 곳에서 실행하기 위해서라는 응답도 42%로 글로벌 평균(37%)을 웃돌았다.

글로벌 기업들은 AI 운영 비용 증가에도 부담을 느끼고 있었다. 전체 응답자의 89%는 토큰 사용량 증가로 AI 활용 사례를 제한하거나 재설계한 경험이 있다고 답했다. 또 45%는 비용 상승이나 변동성에 대응하기 위해 AI 워크로드를 다른 클라우드 또는 프라이빗 환경, 온프레미스로 이전한 것으로 나타났다.

AI 운영의 안정성도 해결 과제로 꼽혔다. 글로벌 응답자의 98%는 장애나 환각, 예기치 않은 동작으로 AI 배포를 한 번 이상 철회한 경험이 있다고 밝혔다. 거버넌스와 컴플라이언스가 AI 확장을 제한한다는 응답은 75%였으며 55%는 관련 비용이 예상보다 빠르게 증가했다고 답했다.

기업들이 AI 도입 초기 단계에서 보완해야 할 과제로도 거버넌스가 지목됐다. 글로벌 응답자의 49%는 AI 도입을 처음부터 다시 시작한다면 초기부터 거버넌스를 강화하겠다고 답했다. 데이터 품질에 더 일찍 투자하겠다는 응답은 46%, 인프라 현대화와 직원 교육을 앞당기겠다는 응답은 각각 45%였다.

이와 관련해 클라우데라는 기업들이 AI 활용을 확대하면서 비용과 규제, 데이터 위치 등을 고려해 워크로드를 유연하게 운영할 필요가 있다고 강조했다. 이를 위해 데이터를 특정 AI 환경으로 옮기는 대신 데이터가 있는 곳에서 AI를 실행하고 여러 환경에 걸쳐 일관된 거버넌스를 적용하는 하이브리드 AI 전략을 제시했다.

최승철 클라우데라코리아 지사장은 "국내 기업들은 AI 투자를 빠르게 늘리고 있지만 비용 상승 압박 속에서도 확장의 발목을 잡는 것은 거버넌스와 데이터 주권"이라며 "이제는 데이터를 옮기지 않고도 일관된 거버넌스 아래 원하는 환경에서 AI를 운영할 수 있는 하이브리드 전략이 필수"라고 말했다.