데이터센터서도 '프라이빗 AI' 구축 OK...클라우데라, 新 서비스로 기업 고민 '해결'

'이볼브25 싱가포르'서 데이터센터용 프라이빗 AI 제공하는 최신 데이터 서비스 발표

[싱가포르=장유미 기자] "클라우데라 인공지능(AI) 인퍼런스 서비스를 조기 도입한 것을 자랑스럽게 생각합니다. 이 기술은 인도네시아의 역동적인 규제 환경을 준수하고, 생성형 AI 이니셔티브를 안전하고 효율적으로 확장할 수 있는 필수 인프라를 제공하기 때문이죠. 자국민에게 더 똑똑하고 빠르며 신뢰할 수 있는 디지털 금융 서비스를 선보이려는 우리에게 있어 이번 일은 중대한 도약이 될 듯 합니다."

토토 프라세티오 BNI 최고정보책임자(CIO)는 최근 클라우데라의 새로운 서비스를 선제 도입한 후 이처럼 만족감을 드러냈다. 데이터 보안 우려 등으로 기존에는 온프레미스 환경에서 AI 도입을 하기 쉽지 않았지만, 클라우데라의 새로운 솔루션이 이를 한 번에 해결해 준 덕분이다. BNI는 인도네시아 국영 은행으로, 엔비디아 AI 엔터프라이즈 소프트웨어 플랫폼의 일부인 NIM 기반 클라우데라 AI 추론 서비스를 전 세계 최초로 시험 운영한 고객 중 한 곳이다.

찰스 샌즈버리 클라우데라 CEO가 7일 싱가포르 마리나 베이 샌즈에서 열린 '이볼브25 싱가포르'에 참여해 키노트 연설을 하고 있다. (사진=장유미 기자)

클라우데라는 7일(현지시간) 싱가포르 마리나 베이 샌즈 컨벤션 센터에서 '이볼브 25 싱가포르(Evolve25 Singapore)' 행사를 열고 BNI가 먼저 적용했던 최신 클라우데라 데이터 서비스를 발표했다. 이 제품은 온프레미스에서도 프라이빗 AI를 구축할 수 있게 한 것이 특징으로, 방화벽 내부에서 그래픽처리장치(GPU) 기반의 생성형 AI 기능을 안전하게 사용할 수 있도록 했다. 또 내재된 거버넌스 기능과 하이브리드 이동성을 기반으로 자체 데이터센터 내에 소버린 클라우드 구축, 확장을 지원한다.

기업들은 그간 민감한 데이터와 지식재산 유출에 대한 우려 때문에 AI 도입을 망설여왔다. 실제 IT 컨설팅 기업 액센츄어에 따르면 기업의 77%는 중요 모델, 데이터 파이프라인, 클라우드 인프라를 보호할 수 있는 데이터, AI 보안 기초가 부족한 것으로 나타났다.

클라우데라 관계자는 "우리는 퍼블릭 클라우드, 온프레미스 모두에서 동일한 클라우드 네이티브 서비스를 통해 데이터 라이프사이클 전반을 제공하는 유일한 기업"이라며 "기업용 AI에서 발생하는 주요 보안, AI 리스크를 직접 해결하며 고객이 프로토타입부터 프로덕션 단계까지 걸리는 시간을 수 개월에서 몇 주 단위로 단축할 수 있도록 지원하고 있다"고 설명했다.

클라우데라는 이번 제품 출시를 통해 자사 데이터 서비스를 기업 데이터센터로 확장함으로써 더 많은 고객을 확보하기 위해 나섰다. 고객은 이 서비스로 인프라 비용을 크게 절감하고 데이터 라이프사이클을 간소화해 데이터 팀의 생산성을 향상시킬 수 있다. 

클라우데라 관계자는 "고객들은 이 서비스로 워크로드 배포 속도 향상과 복잡한 작업의 자동화를 통한 보안 강화, AI 배포 등 신속한 가치 창출이 가능할 것"이라며 "향상된 실무 경험, 준비 태세 외에도 방화벽 내부에서 클라우드 네이티브의 민첩성을 확보해 보안을 유지하면서도 효율적으로 확장할 수 있을 것"이라고 설명했다.

클라우데라는 기존 클라우드 전용이었던 클라우드 AI 인퍼런스 서비스와 AI 스튜디오도 데이터센터에서 사용할 수 있게 했다. 이 도구는 AI 도입을 저해하는 가장 큰 장벽을 해결하기 위해 설계됐다. 고객은 이를 통해 생성형 AI 애플리케이션을 자체 데이터센터 내에서 안전하게 구축, 실행할 수 있다. 더불어 민감한 지식재산은 방화벽 내부에 안전하게 보관할 수 있다.

레오 브루닉 클라우데라 최고제품책임자(CPO)는 "우리 데이터 서비스 온프레미스는 진정한 클라우드 네이티브 경험을 온프레미스에 제공해 보안, 제어권을 희생하지 않고도 민첩성과 효율성을 구현한다"며 "이번 출시는 데이터 현대화의 중요한 진전이자, 거대한 모놀리식 클러스터에서 민첩한 컨테이너 기반 애플리케이션 제품군으로의 전환을 의미한다"고 밝혔다.

클라우데라가 이번에 선보인 새로운 서비스는 시장에서도 긍정적인 반응을 이끌어 내고 있다. 실제 포레스터 컨설팅의 연구에 따르면, 클라우데라 데이터 서비스를 온프레미스로 도입한 고객의 복합 조직은 워크로드의 배포에 따른 가치 실현 시간을 80% 단축했다. 또 데이터 실무자와 플랫폼 팀의 생산성을 20% 향상했을 뿐 아니라 최신 클라우드 네이티브 아키텍처 도입을 통한 총 비용을 35% 절감한 것으로 나타났다. 일부 조직은 하드웨어 활용률을 30%에서 70%까지 개선했고, 전체 용량 요구사항은 25%에서 50% 이상 감소한 것으로 드러났다.

산지브 모한 산업 애널리스트는 "기존에는 온프레미스에서 AI를 실행하려면 복잡하고 불안정한 DIY 솔루션을 억지로 조합해야 했다"며 "AI 도입의 필요성은 명확하지만 이에 비례해 데이터 보안에 대한 우려 또한 크다는 것이 현실"이라고 지적했다. 그러면서 "(클라우데라의) 이 제품은 기업의 보안을 훼손하지 않으면서 AI 도입을 간소화하고 생산성을 향상시킬 수 있는 필수적인 솔루션"이라고 강조했다.

찰스 샌즈버리 클라우데라 최고경영자(CEO)는 "기업 고객들이 보안과 관리, 비용 간 균형을 어떻게 맞춰야 할 지 매일 고민하고 있다는 점에서 우리는 해결책으로 '오케스트레이션 기능'도 개발했다"며 "이 기능은 고객이 동일한 사용자 인터페이스와 가시성을 기반으로 온프레미스, 퍼블릭 클라우드, 프라이빗 클라우드 등 다양한 환경에서 데이터를 접근·관리할 수 있게 도와준다"고 말했다.

이어 "다양하고 복잡한 데이터 관리 환경을 고객이 직접 신경쓰지 않도록 우리는 오케스트레이션 기능을 통해 워크로드를 가장 적합한 컴퓨팅 환경에 자동으로 매칭할 수 있도록 지원하고 있다"며 "고객들의 비용, 자원, 인프라 활용을 최적화하는 데 큰 도움이 될 것"이라고 덧붙였다.