인텔 가우디3 AI 가속기, 신규 고객사로 IBM 확보

인텔이 곧 출시할 AI 가속기 '가우디3'(Gaudi 3)가 대형 고객사인 IBM을 확보했다.

양사는 29일(미국 현지시간) 공동으로 "IBM 클라우드 고객사에 내년 초부터 가우디3를 제공할 것"이라고 밝혔다.

IBM은 자체 데이터센터와 클라우드를 혼합한 하이브리드 환경과 온프레미스 환경에 모두 가우디3를 적용 예정이며 왓슨x 클라우드에도 가우디3를 통합 예정이다.

현재 대부분의 클라우드 서비스 제공업체(CSP)가 이미 시장을 선점한 엔비디아 하드웨어·소프트웨어 환경에 종속된 상황이다. 인텔은 이런 상황에서 전세계 10위권 내 CSP 중 하나인 IBM을 가우디3 고객사로 확보해 고민을 덜었다.

■ 가우디3, 엔비디아 대비 납기·가격 면에서 강점

가우디3는 2022년 5월 출시된 가속기인 가우디2 후속 제품이며 TSMC 5나노급(N5) 공정에서 생산된다. 96MB S램과 128GB HBM2e 메모리를 이용해 최대 대역폭 3.7TB/s를 구현했다.

인텔 자체 성능비교에 따르면 가우디3 8천192개 클러스터 구성시 같은 규모 엔비디아 H100 클러스터 대비 학습 시간을 40% 단축할 수 있다.

또 700억 개 매개변수로 구성된 LLM인 메타 라마2(Llama 2) 구동시 가우디3 64개 클러스터는 엔비디아 H100 대비 최대 15% 빠른 학습 처리량을 제공 예정이다.

■ AI 운영 비용 부담 느끼는 CSP 고객사 겨냥

인텔은 올 3분기 출시할 가우디3 고객사 확보를 위해 많은 노력을 기울였다. 지난 6월 컴퓨텍스 2024 기조연설 당시 팻 겔싱어 CEO는 가우디3의 가격 대비 성능을 강조하며 "덜 쓰고 더 얻을 수 있다"고 강조했다.

인텔은 "인텔과 IBM은 서버·데이터센터용 5세대 제온 스케일러블 프로세서(에메랄드래피즈)와 결합한 가우디3를 통해 총소유비용(TCO)을 낮추면서 AI를 활용할 수 있는 수단을 제공하는 것이 목적"이라고 설명했다.

이어 "5세대 제온과 가우디3는 데이터센터와 클라우드의 기업용 AI 워크로드를 지원하면서 소프트웨어 스택 제어, 워크로드와 응용프로그램 관리 단순화, 비용 절감을 실현할 수 있을 것"이라고 덧붙였다.

■ 올해 가우디3 공급 매출도 증가 예상

앨런 피콕(Alan Peacock) IBM 클라우드 총괄 매니저는 "IBM 클라우드에서 인텔 가우디3 가속기를 활용하면 고객들에게 비용 성능을 최적화하는 유연한 AI 솔루션을 제공할 수 있다"고 밝혔다.

관련기사