엔비디아와 AMD가 2027년까지 차세대 인공지능(AI) 반도체 로드맵을 발표하면서 AI 반도체를 지원하는 고대역폭메모리(HBM) 시장에서 SK하이닉스, 삼성전자, 마이크론 등 메모리 3사 간 경쟁이 더욱 치열해질 전망이다. AI 반도체의 성능이 향상됨에 따라 HBM의 성능과 용량 요구도 높아지고 있기 때문이다.
아울러 AI 반도체 시장에서 파운드리-메모리 업체간 협업의 중요성이 커지면서 TSMC-SK하이닉스 동맹과 삼성전자의 양강 구도로 나뉘는 모양새다.
■ 엔비디아, AI 반도체 독보적 1위…2026년 '루빈'에 HBM4 탑재
젠슨 황 엔비디아 최고경영자(CEO)는 지난 2일 대만 국립대만대학교에서 열린 ‘컴퓨텍스 2024’ 기조연설에서 2026년 출시 예정인 차세대 AI 반도체(GPU) ‘루빈’ 플랫폼을 처음으로 공개했다. 이는 지난 3월 미국 캘리포니아에서 개최한 개발자 컨퍼런스 ‘GTC’에서 신형 GPU ‘블랙웰’을 공개한 지 약 3개월 만이다.
엔비디아는 AI 반도체 출시 로드맵과 함께 HBM 탑재 계획도 상세히 공개했다. 엔비디아가 올해 2분기 출시하는 호퍼 플랫폼 ‘H200’ GPU에는 AI 반도체 중 처음으로 HBM3E 8단(5세대) 제품이 6개를 탑재된다. 올해 하반기 출시되는 블랙웰 플랫폼 ‘B100’에는 HBM3E 8단 12개가, 내년에는 HBM3E 12단을 탑재한 ‘블랙웰 울트라’가 잇따라 출시될 예정이다.
이날 기조연설에서 젠슨 황 CEO는 2026년 출시되는 루빈 플랫폼에 HBM4 8개를 처음으로 탑재하고, 2027년 ‘루빈 울트라’에는 HBM4 12개를 탑재한다고 밝혔다.
이에 메모리 업계에서는 A 반도체 시장에서 엔비디아의 차세대 물량을 확보하기 위한 치열한 경쟁이 예고된다. 엔비디아는 AI 반도체 시장에서 90% 점유율로 독보적인 1위를 차지하고 있다.
SK하이닉스는 지난해 엔비디아 H100에 HBM3 독점 공급에 이어 올해 2분기 출시되는 H200에 HBM3E 8단 제품을 가장 많은 물량으로 공급한다. 미국 마이크론 또한 엔비디아에 HBM3E 8단을 공급하고 있으며, 삼성전자 또한 엔비디아에 HBM3E 공급을 위한 테스트 과정을 거치고 있다. SK하이닉스와 삼성전자는 내년 HBM4 양산을 목표로 차세대 메모리 기술 개발에 한창이다.
■ AMD, 올해 4분기 'MI325X'에 최초로 HBM3E 12단 적용
AMD 또한 주요 HBM 고객사로 꼽힌다. 리사 수 AMD CEO는 컴퓨텍스 2024 기조연설에서 AI 가속기 ‘AMD 인스팅트’ 로드맵을 공개했다. AMD는 올해 4분기 출시되는 ‘MI325X’에 HBM3E 12단 제품을 탑재할 계획이다. 이는 엔비디아보다 먼저 고용량 HBM3E를 적용한 것이다. 수 CEO는 “MI325X는 업계 최고의 288Gb 용량을 가진 HBM3E를 탑재한다”고 강조했다.
업계에서는 AMD MI325X에 삼성전자가 상반기부터 양산 중인 HBM3E 12단 제품을 탑재할 것으로 보고 있다. 삼성전자는 지난 2월 "HBM3E 12단 샘플을 고객사에게 제공하기 시작했으며 상반기 양산할 예정"이라고 밝힌 바 있다. 앞서 삼성전자는 AMD가 지난해 출시한 ‘MI300X’에 HBM3을 공급해 왔다.
AMD는 내년 출시되는 ‘MI350’에도 HBM3E 12단 제품을 탑재하고, 2026년 ‘MI400’에 처음으로 HBM4를 탑재할 계획이다.
AMD는 엔비디아에 대응하기 위해 삼성전자와 손을 잡았다. 리사 수 AMD CEO는 차세대 AI 반도체를 3나노 GAA 공정에서 생산할 계획을 밝혔다. 전세계에서 삼성이 3나노 GAA 공정을 양산함에 따라, 해당 칩 생산은 삼성전자 파운드리가 유력하다. AMD는 HBM3 이어 HBM3E도 삼성으로부터 공급받는다.
■ 내년 HBM4부터 '파운드리-메모리' 동맹 경쟁 심화
내년 양산되는 HBM4부터는 맞춤형 제작(커스터마이징)이 요구되기 때문에 파운드리와 메모리 업체 간의 협업이 더욱 중요해질 전망이다. 이에 엔비디아는 TSMC-SK하이닉스와 손잡고, AMD는 삼성전자와 동맹을 펼치는 모습이다.
지난 4월 SK하이닉스는 TSMC와 HBM4 공동 개발을 공식 발표했다. HBM3E까지는 SK하이닉스가 D램과 베이직 다이를 제작하고, TSMC가 이를 받아 기판 위에 GPU와 HBM을 나란히 조립(패키징)했지만, HBM4부터는 TSMC가 로직 다이를 직접 제작하는 방식으로 바뀌고 HBM3E와 동일하게 2.5D 패키징이 유지된다.
곽노정 SK하이닉스 사장은 지난 5월 간담회에서 “HBM4 이후가 되면 맞춤형(customizing) 수요가 증가하며 그게 트렌드가 되고, 수주형 비즈니스로 전환될 것”이라고 설명한 바 있다.
삼성전자는 첨단 공정 파운드리와 메모리 사업을 동시에 공급하는 맞춤형 토탈 솔루션을 최대 강점으로 내세우고 있다. 이는 메모리에서 HBM을 만든 다음 자체 파운드리 팹에서 패키징까지 모두 가능하다는 의미다.
관련기사
- 리사 수 AMD CEO "매년 신제품 투입...4분기 서버용 GPU MI325X 출시"2024.06.03
- AMD, 차세대 라이젠 AI 300 CPU로 x86 코파일럿+ PC 포문2024.06.03
- 삼성전자, 美서 3·4나노 고객사 'AMD·그로크' 알린다2024.05.28
- 엔비디아, AI 가속 위한 차세대 GPU·솔루션 대거 공개2024.06.03
후발주자인 마이크론도 TSMC와 협력해 HBM 점유율을 높이는 것을 목표로 하고 있다. 마이크론도 지난 2월 HBM3E 8단 양산에 이어, 5월 HBM3E 12단 샘플 공급을 시작했다. 또 대만 타이중 신규 공장 투자에 이어 미국 정부의 8조4천억원의 보조금을 받아 아이다호 보이시와 뉴욕 클레이주에 HBM용 팹을 건설할 계획이다. 일본에도 히로시마에 2027년 가동을 목표로 HBM 팹을 건설한다는 계획이다. 일본 정부는 마이크론에 1조7천억원의 보조금을 약속했다.
시장조사 트렌드포스에 따르면 HBM 수요 연간 성장률은 올해 200% 증가하고 2025년에는 2배 확대될 것으로 전망된다.