오라클, 생성 AI 인프라와 암페어원 인스턴스 공개

[오라클클라우드월드2023] 엔비디아 H100 GPU와 최신 ARM 아키텍처 제공

[라스베이거스(미국)=김우용 기자] 오라클이 생성 AI 모델 학습과 추론을 위한 전용 클라우드 인프라 옵션을 공개했다. 엔비디아 GPU와 암페어컴퓨팅의 최신 ARM 아키텍처 CPU를 AI 인프라로 선택해 성능향상과 비용절감의 이점을 누릴 수 있다.

오라클은 20일(현지시간) 미국 라스베이거스에서 개최한 '오라클 클라우드월드2023' 컨퍼런스에서 AI 인프라와 범용 컴퓨팅의 신규 옵션 출시 계획을 발표했다.

우선 엔비디아 H100 텐서코어 GPU로 구동되는 인스턴스가 올해 후반 출시된다. 대규모언어모델(LLM)과 예측 및 추천 모델의 학습 시간을 대폭 줄일 수 있다. 이전세대인 엔비디아 A100 텐서코어 GPU 대비 AI 추론 성능을 최대 30배, 모델 학습 성능을 4배 향상시킬 수 있다고 오라클 측은 설명했다.

엔비디아 H100 GPU 기반 OCI 컴퓨팅 베어메탈 인스턴스는 올해말 런던지역과 시카고지역에서 정식 출시될 예정이다.

이와 함께 엔비디아 L40S GPU로 구동되는 OCI 인스턴스도 출시된다. 엔비디아 L40S 기반 인스턴스는 중소형 AI 모델 교육과 추론에 선택할 수 있다. 엔비디아 A100 GPU에 비해 생성 AI 워크로드 성능을 최대 20% 향상시키고, 미세조정을 최대 70% 향상시킨다고 회사측은 강조했다. 이 인스턴스는 내년 중 출시된다.

르네 제임스 암페어컴퓨팅 CEO(왼쪽(와 클레이 마고요크 오라클 OCI 총괄부사장

오라클은 ARM 아키텍처 기반의 멀티코어 CPU인 암페어컴퓨팅의 '암페어원' CPU 인스턴스도 확대한다고 밝혔다.

암페어원 CPU로 구동되는 OCI 컴퓨트 A2 인스턴스는 베어메탈 형태에서 320개 코어, 가상머신(VM) 형태의 경우 최대 156코어를 제공한다. 서버, 비디오 트랜스코딩, CPU 기반 AI 추론 요청 서비스를 이용할 수 있다.

암페어원은 암페어컴퓨팅이 ARM 네오버스 코어 대신 자체 설계 코어를 적용한 첫 프로세서다. 클라우드 네이티브를 지향하고 저전력으로 고성능을 낸다. 동일 전력 소비 환경에서 인텔이나 AMD의 x86 프로세서보다 더 높은 성능을 낸다고 암페어측은 강조한다.

르네 제임스 암페어 최고경영자(CEO)는 20일 오라클클라우드월드2023 기조연설에서 "암페어원은 처음부터 직접 설계한 프로세서 아키턱처로 코어 성능을 올리면서 클라우드 제공업체에서 필요로 하는 고유 기능을 담았다"며 "암페어원 프로세서로 OCI A2 인스턴스를 출시하게 됐는데 이것은 완전히 새로운 기술"이라고 말했다.

암페어원 기반 OCI 컴퓨트 A2 인스턴스는 내년 정식 출시될 예정이다.