AMD, 생성형 AI 가속 위한 인스팅트 MI300X GPU 공개

"인스팅트 MI300X, 엔비디아 H100 대비 메모리 용량·대역폭 우위"

AMD가 13일(미국 현지시간) 거대언어모델(LLM) 등 생성형 AI와 고성능 컴퓨팅(HPC) 가속을 위한 서버용 칩인 '인스팅트 MI300X' GPU를 공개했다.

인스팅트 MI300X는 CDNA 3 GPU와 192GB HBM3, 칩렛당 초당 최대 896GB를 전송 가능한 인피니티 패브릭으로 구성됐다. TSMC 5나노급(N5) 공정에서 생산된 칩렛 12개를 결합했으며 트랜지스터 수는 1천530억 개다.

AMD가 생성형 AI와 고성능 컴퓨팅(HPC) 가속을 위한 서버용 칩인 '인스팅트 MI300' 시리즈를 공개했다. (사진=AMD)

리사 수 AMD CEO는 "MI300X 칩은 엔비디아 H100 대비 2.4배 더 많은 HBM을 탑재했고 대역폭은 1.6배 이상이다. 엔비디아 H100 대비 더 큰 AI 모델을 구동할 수 있다"고 설명했다.

AMD는 지난 1월 CES 2023을 통해 젠4 CPU 코어 24개와 CDNA 3 아키텍처 기반 GPU, 128GB HBM3(고대역폭 메모리)를 결합한 인스팅트 MI300A를 공개한 바 있다.

인스팅트 MI300A는 TSMC 5나노급 공정에서 생산된 총 13개 칩렛으로 구성되었으며 내장된 트랜지스터 수는 1천460억 개에 달한다.

AMD는 현재 주요 고객사에 인스팅트 MI300A 시제품을 공급중이다. 인스팅트 MI300X와 GPU를 결합한 플랫폼은 오는 3분기에 시제품을 공급하고 4분기 정식 출시 예정이다.