오라클, 생성 AI 서비스 위해 코히어와 맞손

코히어 기반 거대 언어모델 적용

오라클이 코히어와 손잡고 생성 인공지능(AI) 서비스를 제공한다고 16일 밝혔다.

해당 생성 AI 서비스는 '오라클 클라우드 인프라스트럭처(OCI)' 기반으로 이뤄졌다. 오라클 수퍼클러스터 기능으로 작동한다. 해당 서비스는 애플리케이션부터 인프라스트럭처까지 전반에 걸쳐 적용될 예정이다. 오라클은 이 서비스에 업계 최고 수준 보안과 성능, 가치를 제공하겠다고 전했다.

OCI의 생성 AI 서비스는 고객사에 데이터에 대한 완전한 제어 능력 및 소유권을 제공한다. 또 타 생성 AI 제품과 달리 오라클 생성 AI 서비스는 고객 데이터를 한데 섞지 않는다. 데이터 출처와 계보 액세스용 도구 역시 출시를 앞두고 있다.

(사진=오라클)

해당 서비스는 코히어 기반 거대 언어모델(LLM)을 활용한다. 고객사는 오라클의 LLM을 맞춤화, 개선할 수 있다. 자체 데이터로 특정 비즈니스 사용 사례 정확성도 높일 수 있다.

오라클은 전사적자원관리(ERP), 인적자본관리(HCM), 공급망관리(SCM) 등 클라우드 애플리케이션 포트폴리오 전반에 생성 AI를 내장할 방침이다. 현재 헬스케어 및 공공 안전을 위한 신규 모델 배포를 앞두고 있으며, 산업별 애플리케이션 전반에도 생성 AI를 내장할 계획이다. 

오라클은 오라클 데이터베이스와 MySQL 히트웨이브에 머신러닝 기능을 도입했을 때와 같은 방식으로 생성 AI 기능을 데이터베이스 포트폴리오에 내장할 예정이다.

고객은 OCI에서 해당 생성 AI 서비스를 사용할 수 있다. 퍼블릭 클라우드 이점을 활용해 온디맨드 방식으로 솔루션을 확장하고 모델 맞춤화할 수 있다. 또 비즈니스를 위한 개별 모델 엔드포인트도 생성할 수 있다. 

오라클은 기업 조직의 데이터 센터에 생성 AI 서비스를 제공해 기업이 다양한 생성형 기능과 자체 온프레미스 데이터 및 애플리케이션을 결합할 수 있게 지원할 계획이다.

이 외에도 코히어 모델들은 오라클 클라우드 애플리케이션 포트폴리오에 직접 통합될 예정이다. 오라클은 코히어 언어모델을 오라클 퓨전 클라우드 애플리케이션과 오라클 넷스위트, 오라클의 산업별 애플리케이션 등 다양한 비즈니스 애플리케이션에 내장함으로써 고객이 생성 AI를 빠르고 안전하게 배포해 각자가 직면한 가장 까다로운 비즈니스 과제 해결에 활용할 수 있도록 지원할 것이다.

오라클 클레이 마고요크 OCI 인프라스트럭처 총괄 부사장은 “오라클은 첨단 보안을 비롯한 업계 최고 수준 데이터 관리 기능, 모든 비즈니스 문제를 해결하는 엔드투엔드 플랫폼을 제공한다”며 “이번 코히어와의 협력을 통해 고객이 비즈니스에 생성 AI를 쉽게 도입하도록 돕겠다”고 전했다. 마고요크 총괄 부사장은 “특히 고객은 코히어 기반 모델을 통해 보유한 데이터를 안전하게 통합, 훈련에 활용할 수 있다”며 “OCI를 통해 이를 업계 최고 AI 인프라스트럭처에 배포함으로써 해당 모델이 주는 비즈니스 이점을 애플리케이션으로 즉각 경험할 수 있을 것”이라고 말했다.

코히어는 오라클과의 협력을 통해 자사의 생성 AI 모델을 OCI에서 훈련해 구축, 배포할 예정이다. OCI는 클러스터당 1만6천개 넘는 H100 GPU와 RDMA 네트워크를 통해 최고 성능과 최저 비용의 GPU 클러스터 기술을 제공할 방침이다. 두 기업은 이번 협력을 통해 LLM 훈련 가속화와 비용 절감 효과를 기대한다고 했다.

마틴 콘 코히어 대표 겸 최고운영책임자는 “오라클과 코히어는 데이터 보안과 모델 맞춤화에 초점 맞췄다”며 “코히어는 오라클과 손잡고 전 세계 기업들이 자사의 AI 이니셔티브를 가속화하고, 더 큰 가치를 창출할 수 있도록 지원하는 동시에, 비즈니스 성공을 극대화할 수 있도록 확실한 데이터 보안과 개인정보 보호를 보장하는 것은 물론, 새로운 수준의 자동화 기능도 제공할 것이다”고 전했다.