엔비디아, AI 맞춤형 메모리 'NVHBM' 공개

"HBM4E 대비 메모리 대역폭 30% ↑, 전력 소모 15% 절감"

엔비디아가 GPU, 네트워킹 등 AI 데이터센터 주요 기술에 이어 메모리 기술까지 내재화에 나섰다. 자체 설계한 고대역폭메모리(HBM) 기술 'NVHBM'을 공개하고 아마존과 협력해 공동 개발하겠다고 밝혔다.

엔비디아는 26일(현지시간) 맞춤형 반도체 구축을 위한 연결 기술 'NV링크 퓨전'에 연결 가능한 HBM 기술 'NVHBM' 지원을 추가한다고 밝혔다.

NV링크 퓨전은 반도체를 고속으로 연결할 수 있는 엔비디아 독자 기술 'NV링크'를 기반으로 타사 반도체 IP(지적재산권)까지 연동 범위를 확대한 기술이다.

엔비디아가 AI 연산 최적화 HBM인 'NVHBM' 구상을 공개했다. (사진=엔비디아)

NVHBM은 엔비디아가 미래 GPU에 적용할 기술을 기반으로 개발한 맞춤형 HBM으로, 기존 HBM과 달리 메모리 컨트롤러를 AI 가속기(XPU) 다이에서 HBM의 베이스 다이로 옮긴 것이 핵심이다.

엔비디아에 따르면 NVHBM은 기존 HBM4E 대비 메모리 대역폭은 최대 50% 높이는 한편 전력 소모를 최대 15% 낮출 수 있다.

또 메모리 영역에서 컨트롤러가 차지하던 공간은 줄이고 연산용 반도체 영역을 25% 늘려 AI 연산 유닛이나 캐시 등 가속기 성능을 높이는 데 활용할 수 있다.

단 엔비디아가 이번에 공개한 NVHBM은 메모리 자체를 직접 생산하는 것이 아니라 여러 메모리 공급업체가 생산·공급할 수 있는 설계도에 가깝다. 실제 공급은 삼성전자와 SK하이닉스, 마이크론 등 주요 메모리 제조사가 담당한다.

NVHBM 첫 적용 고객사로는 아마존이 꼽혔다. 아마존 내 반도체 개발 조직인 안나푸르나 랩스는 차세대 AI 가속기 '트레이니엄4'와 NV링크 퓨전, NVHBM 기술을 통합한 아키텍처를 연동한 아키텍처를 개발 예정이다.