[싱가포르=장유미 기자] 클라우데라가 '인공지능(AI) 팩토리'를 앞세워 기업용 AI 추론 시장 공략에 속도를 낸다. AI 경쟁의 무게중심이 모델 학습에서 실제 서비스 운영으로 옮겨가자 데이터 이동 비용과 그래픽처리장치(GPU) 활용 부담을 낮추고, 온프레미스와 퍼블릭 클라우드를 넘나드는 추론 환경을 제공해 고객 확보에 나선다는 전략이다.
아바스 리키 클라우데라 최고사업책임자(CBO) 겸 응용 AI 부문 총괄은 20일(현지시간) 싱가포르 마리나 베이 샌즈 컨벤션 센터에서 열린 연례 데이터·AI 컨퍼런스 '이볼브26 싱가포르(EVOLVE26 Singapore)'에서 기업용 AI 시장이 모델 중심에서 시스템 중심으로 이동하고 있다고 진단했다.
리키 CBO는 "2025년까지는 모델 학습이 AI 시장의 중심이었다면, 이제는 모델 주변에 어떤 시스템을 구축하느냐가 중요해지고 있다"며 "기업들은 단순히 모델을 만드는 것이 아니라 실제 업무에 활용할 수 있는 AI 시스템을 구축하는 단계로 이동하고 있다"고 말했다.
특히 그는 AI 투자에서 추론 비중이 빠르게 커지고 있다는 점에 주목했다. 기업들이 대규모 모델을 학습하는 것보다 이미 확보한 모델을 실제 서비스와 업무에 적용하면서 발생하는 비용과 운영 효율을 더 중요하게 보기 시작했다고 설명했다.
이에 클라우데라는 'AI 팩토리'를 핵심 전략으로 제시했다. AI 팩토리는 기업이 보유한 데이터와 인프라를 활용해 AI 모델과 에이전트를 개발·배포하고 실제 업무까지 연결하는 체계를 뜻한다.
리키 CBO는 "AI는 팀 스포츠"라며 "기업이 원하는 인프라와 모델을 선택하면서도 실제 비즈니스 성과까지 연결할 수 있어야 한다"고 강조했다.
클라우데라는 이를 위해 '클라우데라 애니웨어 클라우드'를 기반으로 데이터 패브릭과 AI 추론 서비스, 에이전트 개발 환경 등을 하나의 구조로 묶는다는 구상이다. 퍼블릭 클라우드와 온프레미스, 프라이빗 클라우드, 엣지 등 여러 환경에서 일관된 방식으로 AI를 운영하는 데 초점을 맞췄다.
특히 데이터 이동을 줄이는 '소버린 인퍼런스'를 주요 기능으로 내세웠다. 기업 데이터를 외부 클라우드로 옮긴 뒤 AI 추론을 실행하는 대신 데이터가 저장된 환경에서 직접 모델을 구동하는 방식이다.
리키 CBO는 "추론을 위해 데이터를 외부로 이동할 필요가 없어야 한다"며 "비용뿐 아니라 위험과 통제 측면에서도 데이터가 있는 곳에서 AI를 실행하는 것이 중요하다"고 말했다.
이는 AI 활용이 늘면서 데이터 이동 비용과 GPU 사용료가 새로운 부담으로 떠오르고 있기 때문이다. 기업이 대규모 데이터를 퍼블릭 클라우드로 옮길 경우 데이터 전송 비용이 발생하는 데다 AI 사용량이 늘어날수록 추론 비용도 빠르게 증가할 수 있어서다.
이에 클라우데라는 온프레미스 GPU와 퍼블릭 클라우드 자원을 함께 사용할 수 있도록 해 기업이 비용과 보안, 규제 조건에 따라 AI 실행 위치를 선택하도록 지원한다는 방침이다.
리키 CBO는 "기업이 자체 데이터센터에서 모델을 운영해야 하는 경우도 있고 퍼블릭 클라우드를 사용하는 것이 유리한 경우도 있다"며 "중요한 것은 특정 환경에 종속되지 않고 선택권을 갖는 것"이라고 설명했다.
클라우데라는 모델과 AI 엔진에 대한 선택권도 확대한다. 기업마다 선호하는 모델과 데이터 처리 엔진, 에이전트 프레임워크가 다른 만큼 하나의 기술 스택만을 강요하지 않겠다는 전략이다.
또 엔비디아 등 파트너사의 모델과 AI 기술뿐 아니라 기업이 선택한 외부 모델도 플랫폼에서 활용할 수 있도록 지원한다는 방침이다. 미스트랄AI 등 모델 업체와의 협력도 확대해 기업이 자체 데이터 환경에서 다양한 모델을 사용할 수 있도록 할 계획이다.
리키 CBO는 "기업마다 선호하는 모델과 엔진이 다를 수밖에 없다"며 "클라우데라는 이들을 하나의 마켓플레이스와 플랫폼에서 활용할 수 있도록 선택권을 제공하는 데 초점을 맞추고 있다"고 말했다.
기업 데이터를 AI가 이해할 수 있는 '컨텍스트'로 전환하는 것도 AI 팩토리의 핵심 요소로 꼽았다. AI 에이전트가 정확한 결과를 내기 위해서는 모델뿐 아니라 기업 내부 데이터와 업무 맥락을 함께 이해해야 한다는 판단에서다.
클라우데라는 이날 '이볼브26' 행사에서 석유·가스 기업 사례를 소개하며 여러 데이터 소스에 흩어진 엔지니어링 자료와 이미지, 센서 정보 등을 AI가 활용할 수 있는 형태로 연결하는 구조도 제시했다. 수십만 개의 이미지와 각종 운영 데이터를 하나의 컨텍스트로 묶어 AI가 특정 설비나 현장의 문제를 분석할 수 있도록 한 것이다.
리키 CBO는 "기업 AI의 성패는 모델만으로 결정되지 않는다"며 "올바른 컨텍스트를 제공해야 높은 품질의 결과를 얻을 수 있다"고 강조했다.
그는 AI 활용에 따른 경제성도 전면에 내세웠다. 이날 발표에선 실제 금융사의 고객확인제도(KYC) 업무 사례를 통해 AI 이용량이 늘어날수록 기존 방식과 비교해 비용을 크게 줄일 수 있다는 분석도 내놨다.
또 자체 추론 서비스를 활용할 경우 일부 환경에서 동일 모델 기준 추론 속도를 최대 40% 높일 수 있다고 설명했다. 이를 통해 GPU 활용률을 높이고 모델 실행 환경을 최적화해 기업의 전체 AI 운영비용(TCO)을 낮춘다는 전략이다.
리키 CBO는 "AI 경제성은 기업들이 이제 본격적으로 고민하기 시작한 문제"라며 "실험 단계에서는 비용이 크게 보이지 않지만 실제 운영 규모로 확대되면 추론과 인프라 비용이 중요한 문제가 된다"고 말했다.
클라우데라는 기술뿐 아니라 실제 도입 과정에 대한 지원도 강화한다. 이를 위해 단순 플랫폼 공급을 넘어 기업별 AI 활용 사례를 직접 구축하고, 고객사의 데이터와 업무 환경을 이해한 뒤 AI 솔루션을 설계하는 고객 현장 배치형 엔지니어(FDE) 방식의 지원을 확대할 계획이다.
이날 함께 무대에 오른 브라이언 마틴 애브비 최고 AI 제품 책임자는 "AI 도입에서 가장 큰 어려움은 기술 자체가 아니라 문화와 사람"이라며 "기술과 업무 도메인을 동시에 이해하고 조직 내부의 신뢰를 구축할 수 있는 인력이 필요하다"고 설명했다.
관련기사
- 데이터 복제 없이 실시간 자율 AI…클라우데라, '제로 카피 커넥터' 출시2026.05.11
- 클라우데라 CTO "데이터 쪼개진 韓 시장…통합이 AI 성패 가른다"2026.04.20
- 클라우데라, 2032년까지 플랫폼 연장 지원…"고객 부담 줄여"2026.04.09
- 클라우데라, 4분기에 실적 새 역사 썼다…데이터·AI 플랫폼 입지 강화2026.02.12
클라우데라는 이 같은 고객 맞춤형 지원을 일회성 프로젝트에 그치지 않고 반복 가능한 솔루션으로 확장한다는 계획이다. 또 산업별 AI 블루프린트와 활용 사례를 늘려 기업이 AI 실험에서 실제 운영 단계로 넘어가는 시간도 줄일 방침이다.
리키 CBO는 "기업들은 AI 팩토리를 사는 것이 아니라 결국 비즈니스 성과를 원한다"며 "우리가 해야 할 일은 데이터와 AI 기술을 실제 업무에 연결해 반복 가능한 결과를 만들어내는 것"이라고 강조했다.
