"AI 데이터센터 혁신"…HPE, AMD·브로드컴 손잡고 '헬리오스' AI 랙 출시

이더넷으로 엑사플롭스 가속

HPE가 AMD, 브로드컴 손잡고 업계 최초로 통합 스케일업 이더넷 네트워킹을 탑재한 인프라를 구축했다. 

HPE는 'AMD 헬리오스(Helios) 인공지능(AI) 랙 스케일 아키텍처'를 공개했다고 4일 밝혔다. 

해당 아키텍처는 조 단위 파라미터의 AI 학습과 대규모 추론을 위한 단일 턴키 랙을 제공해 클라우드 서비스 제공업체(CSP)의 AI 배포 속도를 올릴 수 있다. 표준 기반 이더넷과 HPE 주니퍼 네트워킹의 전용 스위치·소프트웨어(SW)를 결합해 AI 워크로드 성능과 유연성, 에너지 효율성을 강화한 것이 특징이다. 

HPE는 'AMD 헬리오스(Helios) 인공지능(AI) 랙 스케일 아키텍처'를 공개했다. (사진=HPE)

특히 FP4 기준 최대 2.9 AI 엑사플롭스와 초당 260테라바이트(TB)의 통합 스케일업 대역폭을 제공해 거대 모델 학습에서 발생하는 트래픽을 효율적으로 지원한다. HPE는 개방형 울트라 엑셀러레이터 링크 오버 이더넷(UALoE) 표준 기반으로 업계 표준 중심의 대규모 AI 워크로드를 위한 통합 플랫폼을 구축했다.

이 솔루션은 랙당 72개의 AMD 인스팅트 MI455X 그래픽처리장치(GPU)를 연결하며, 가장 까다로운 AI·고성능 컴퓨팅(HPC) 워크로드를 위해 31TB 용량의 4세대 고대역폭메모리(HBM4)를 갖췄다. HPE 서비스 팀의 직접 액체냉각 인프라·엑사스케일급 구축 경험을 바탕으로, 높은 서비스성과 에너지 효율성까지 확보했다. HPE는 이 턴키 랙 스케일 솔루션을 제공하는 최초의 기업 중 하나가 될 예정이다.

HPE는 AMD '헬리오스' 아키텍처를 위해 특별히 설계된 스케일업 이더넷 스위치·SW로 'AI용 네트워크' 솔루션을 확장했다. 브로드컴과 협력해 개발된 이 신규 솔루션은 표준 이더넷을 통해 AI 워크로드에 최적화된 성능을 제공하는 최초의 스케일업 스위치다. 이는 AI 네이티브 자동화 및 보장 기능을 활용해 네트워크 운영을 간소화함으로써 더 빠른 배포와 전반적인 비용 절감을 실현한다.

이 아키텍처는 오픈 컴퓨트 프로젝트(OCP)의 오픈 랙 와이드(ORW) 사양을 기반으로 구축됐다. 실용적인 설계와 전력·에너지 효율적인 수냉 방식을 제공하는 기능을 갖췄다. 또 오픈 소스 AMD ROCm와 AMD 펜산도 네트워킹 기술을 활용해 혁신을 가속화하고 총소유비용(TCO) 절감을 돕는다. 이더넷 기반의 HPE 주니퍼 네트워킹 스위치는 개방적이고 검증된 통신 표준을 기반으로 해 벤더 종속성을 최소화한다.

안토니오 네리 HPE 회장 겸 최고경영자(CEO)는 "CSP 고객들에게 더 빠른 배포, 더 유연한 확장성, 더 낮은 리스크를 제공할 것"이라며 "표준 이더넷으로 강력한 AI 데이터센터 구축을 지원함으로써 고객에게 더 많은 선택권과 유연성, 뛰어난 확장성을 제공하는 것이 목표"라고 강조했다.