"데이터 있는 곳에 AI 심는다" 클라우데라, 온프레미스 추론 기능 공개

엔비디아 블랙웰 GPU·NIM 마이크로서비스 탑재…기업 맞춤형 AI 솔루션

클라우데라가 엔비디아 기술을 기반으로 온프레미스 환경에서 인공지능(AI) 추론과 데이터 분석을 본격적으로 운영할 수 있는 기능을 공개했다.

클라우데라는 클라우데라 AI 인퍼런스와 트리노(Trino) 기반 데이터 웨어하우스의 온프레미스 확장을 10일 발표했다. 데이터센터 환경에서도 대규모 언어 모델과 고급 분석, 시각화를 통합 운영할 수 있도록 지원 범위를 넓혔다는 설명이다.

이번에 공개된 클라우데라 AI 인퍼런스는 엔비디아 기술로 구동된다. 기업은 자체 데이터센터에서 대규모언어모델(LLM), 이상 거래 탐지, 컴퓨터 비전, 음성 AI 등 다양한 AI 모델을 직접 배포하고 확장할 수 있다. 

(사진=클라우데라)

엔비디아 네모트론 오픈 모델을 포함해 다양한 모델을 지원하며, 엔비디아 블랙웰 GPU, 다이나모-트리톤 추론 서버, NIM 마이크로서비스 기반으로 고성능 AI 추론을 제공한다.

클라우데라는 이를 통해 기업이 클라우드 비용 변동성을 피하고 지연 시간, 데이터 프라이버시, 규제 준수를 완벽하게 통제할 수 있다고 강조했다. AI가 실험 단계를 넘어 실제 운영 단계로 전환되는 상황에서 장기적인 비용 예측 가능성과 엔터프라이즈급 거버넌스를 동시에 확보할 수 있다는 설명이다.

트리노 기반 클라우데라 데이터 웨어하우스 역시 온프레미스 환경을 지원한다. 데이터센터 내 모든 데이터를 대상으로 중앙화된 보안과 거버넌스, 가시성을 확보하면서도 인사이트 접근 속도를 높였다. AI 기반 분석과 시각화 기능이 통합돼 있어, 민감한 데이터를 외부로 이동시키지 않고도 실행 가능한 분석 결과를 도출할 수 있다.

클라우데라 데이터 비주얼라이제이션도 AI와 분석 역량을 강화했다. 차트와 시각 자료에 대한 요약과 맥락 정보를 자동으로 생성하는 AI 어노테이션 기능을 제공해 데이터 해석 부담을 줄였다. 

AI 쿼리 로깅과 추적 기능을 통해 메시지 ID, 타임스탬프, 질의 내용을 기록하며, 운영 투명성과 문제 해결 속도도 개선했다. 관리 설정 역시 단순화돼 SSO 기반 환경에서 권한 관리와 운영 효율을 높였다.

레오 브루닉 클라우데라 최고제품책임자(CPO)는 "이번 온프레미스 확장은 기업에 전례 없는 수준의 AI 통제력과 유연성을 제공한다"며 "데이터센터에서 클라우데라 AI 인퍼런스와 데이터 웨어하우스, 데이터 비주얼라이제이션을 활용하면 데이터를 이동하지 않고도 AI와 분석을 안전하게 배포할 수 있다"고 말했다. 

이어 "이는 데이터 보안과 규제 준수, 운영 효율성을 동시에 확보하는 현실적인 방법"이라고 덧붙였다.

팻 리 엔비디아 전략적 기업 파트너십 부사장은 "기업 데이터의 가치는 AI를 데이터가 존재하는 어느 곳에 안전하고 유연하게 배포할 수 있을 때 실현된다"며 "클라우데라와 협력을 통해 엔비디아 블랙웰 GPU와 다이나모-트리톤, NIM 마이크로서비스 기반 AI 인퍼런스를 확장할 수 있고, 데이터센터 효율성과 예측 가능한 경제성을 확보할 수 있다"고 밝혔다.