오라클 클라우드, 마이크로소프트 '빙 챗'에 쓰인다

마이크로소프트가 대화형 AI 검색 서비스 ‘빙 챗’에 오라클 클라우드의 AI 인프라를 사용하기로 했다.

오라클은 마이크로소프트와 AI 서비스 지원을 위한 다년 계약을 체결했다고 9일 밝혔다.

마이크로소프트는 빙 챗 기능의 AI 추론 인프라에 오라클 클라우드 인프라스트럭처(OCI) AI 인프라스트럭처와 마이크로소프트 애저 AI 인프라를 함께 사용할 예정이다. 마이크로소프트는 마이크로소프트 애저용 오라클 인터커넥트를 통해 애저 쿠버네티스 서비스(AKS)와 같은 관리형 서비스를 대규모OCI 컴퓨트의 오케스트레이션에 활용함으로써 빙 대화형 검색에 대한 수요 증가를 지원할 수 있게 됐다.

빙 대화형 검색 기능은 빙의 추론 모델이 수행한 검색 결과의 평가 및 분석을 지원하는 강력한 컴퓨팅 인프라스트럭처 클러스터를 필요로 한다.

추론 모델은 멀티 테라비트 네트워크에서 단일 슈퍼컴퓨터처럼 병렬로 작동할 수 있는 수천 개의 컴퓨팅 및 스토리지 인스턴스와 수만 개의 GPU가 필요하다.

OCI 슈퍼클러스터는 OCI 컴퓨트 베어메탈 인스턴스, 초저지연성 RDMA 클러스터 네트워킹, HPC 스토리지로 구성된다. OCI 슈퍼클러스터를 3만2천768개의 A100 GPU 또는 1만6천384개의 H100 GPU를 포함한 최대 4천96개의 OCI 컴퓨트 베어메탈 인스턴스와 수 페타바이트 규모의 고성능 클러스터 파일 시스템 스토리지로 확장해 대규모의 병렬 애플리케이션을 효율적으로 처리할 수 있다.

마이크로소프트 애저용 오라클 인터커넥트는 조직의 멀티클라우드 환경 도입을 위한 간편한 솔루션을 제공한다. OCI AI 인프라와 오라클 엑사데이터 데이터베이스 서비스, 자율운영 데이터베이스, 마이SQL 히트웨이브 등 오라클 데이터베이스 기능을 포함한다. 고객은 OCI와 애저의 매끄러운 상호운영을 통해 제공하는 최고의 기능들을 활용해 혁신을 이룰 수 있다. 양사 간의 저지연성 전용 연결 덕분에 고객은 유연한 방식으로 혁신을 가속화하고, 투자대비수익(ROI)을 극대화할 수 있다. 인터커넥트 사용료는 포트를 기반으로 책정되며, 소비된 대역폭에 대한 추가 요금은 발생하지 않는다.

카란 바타 오라클 OCI 수석 부사장은 “생성형 AI는 기념비적인 기술적 도약이며, 이에 오라클은 마이크로소프트를 비롯한 수천 여 기업들이 OCI AI 기능을 활용해 신제품을 구축 및 실행할 수 있도록 지원하고 있다”며 “마이크로소프트와 협력을 확대함으로써 전 세계의 더 많은 사람들에게 새로운 경험을 제공할 수 있게 됐다”고 설명했다.

디브야 쿠마르 마이크로소프트 검색 및 AI 마케팅 글로벌 책임자는 “마이크로소프트 빙은 최신 AI 기술을 활용해 전 세계 사용자들에게 획기적으로 향상된 검색 기능을 제공한다”며 “오라클과 협업과, OCI 및 마이크로소프트 애저 AI 인프라스트럭처의 동시 활용으로 고객 기반을 늘리고 검색 결과 제공 속도를 높일 수 있게 될 것”이라고 밝혔다.