엔비디아, SC24서 H200 NVL PCIe GPU 공개

필요 성능에 따라 1개부터 4개까지 NV링크로 구성 가능

엔비디아가 오는 22일까지 미국 애틀란타에서 개최되는 '슈퍼컴퓨팅 2024'(SC24) 컨퍼런스에서 호퍼 GPU 최신 제품인 H200 NVL PCIe GPU를 공개했다.

H200 NVL PCIe GPU는 H200 GPU를 PCI 익스프레스 5.0 슬롯으로 서버에 장착할 수 있게 설계됐다. 저전력 공랭식 랙에 설치 가능하도록 구성됐고 탑재 메모리 용량은 141GB다.

PCI 익스프레스 슬롯을 하나만 차지하는 단일 구성, NV링크를 이용해 2개/4개를 연결하는 구성이 가능하며 전세대 제품인 H100 NVL 대비 거대언어모델(LLM) 추론 성능은 최대 1.7배, HPC 응용프로그램 성능은 최대 1.3배 향상됐다.

H200 NVL PCle GPU. (사진=엔비디아)

엔비디아는 "최근 조사에 따르면 엔터프라이즈 랙의 약 70%가 소모 전력 20kW 이하이며 공랭식 설계를 적용해 PCI 익스프레스 방식 GPU가 필요하다. 기업은 기존 랙을 활용하고 필요에 맞는 적합한 GPU 수를 선택할 수 있다"고 밝혔다.

H200 NVL은 각종 AI 관련 응용프로그램 개발을 위한 소프트웨어 도구와 함께 제공되며 프로덕션 AI의 개발과 배포를 위한 클라우드 네이티브 소프트웨어 플랫폼인 엔비디아 AI 엔터프라이즈 5년 구독도 함께 제공한다.

H200 NVL은 오는 12월부터 델테크놀로지스, HPE, 레노버, 슈퍼마이크로 등 주요 서버 업체와 엔비디아 글로벌 시스템 파트너를 통해 제공 예정이다.