국내 인공지능(AI) 반도체 스타트업이 올해부터 고대역폭메모리(HBM)를 탑재한 AI 반도체 출시에 나선다. 추론용(Inference) AI 반도체 업계에서 HBM을 탑재하는 것은 국내 기업이 세계 최초다. 삼성전자와 SK하이닉스는 국내 AI 스타트업에 HBM, 칩 설계 등 적극적인 지원사격에 나서고 있다.
최근 생성형 AI 등장으로 AI 반도체 시장에서는 빠르게 데이터를 처리하기 위해 HBM 탑재가 요구된다. 국내 AI 반도체 기업들도 초거대언어모델(LLM) 등을 지원하는 차세대 칩을 개발하면서 HBM을 필수적으로 탑재하고 있다.
HBM은 여러 개 D램을 수직으로 연결해 기존 D램보다 데이터 처리 속도를 대폭 끌어올린 고성능 제품이다. HBM은 1세대(HBM)·2세대(HBM2)·3세대(HBM2E)에 이어 4세대(HBM3) 제품이 공급되고 있으며, 올해부터 5세대(HBM3E)가 양산된다.
퓨리오사AI, 최초로 HBM 탑재..SK하이닉스가 선제적 지원
퓨리오사AI는 올해 2분기에 HBM3를 탑재한 2세대 AI 반도체 '레니게이드'를 출시하며 첫 스타트를 끊는다. 레니게이드는 TSMC 파운드리 5나노미터(mn) 공정에서 생산되고, 칩을 설계해주는 디자인하우스파트너(DSP)는 대만의 GUC가 맡았다. HBM3은 SK하이닉스로부터 공급받는다. SK하이닉스는 퓨리오사AI가 레니게이드 개발을 기획했을 당시 HBM3 개발 로드맵을 선제적으로 제시한 것으로 알려져 있다.
퓨리오사AI 관계자는 "2021년 초 레니게이트 칩 개발을 위한 스펙을 논의했을 당시 오버스펙이란 의견에도 불구하고 과감하게 HBM3 탑재를 결정한 것이 결과적으로 올바른 판단이었다"고 말했다.
이어 "작년 초 챗GPT 붐이 일어나기 전에는 인퍼런스 시장은 AI 모델을 개발해도 이를 제공할 수 있는 킬러 앱이 없다는 이유로 인퍼런스용 칩은 굳이 강한 스펙을 쓸 필요가 없다는 인식이 강했다. 또 대부분의 칩 업체들은 로드맵에 HBM 탑재를 고려하지 않았다"라며 "하지만 챗GPT의 성공으로 인퍼런스의 시장은 빠르게 확대되면서 고사양 스펙의 칩을 요구하고 있다"고 설명했다.
리벨리온, 삼성전자와 설계·제조·HBM 협력
리벨리온은 올해 4분기께 2세대 AI 반도체 '리벨'을 출시할 예정이다. 리벨은 삼성전자 파운드리 4나노 공정에서 생산되고, 삼성전자의 HBM3E가 탑재된다.
리벨은 개발 단계부터 칩 생산, HBM까지 삼성전자와 협력한다는 점에서 업계의 주목을 받고 있다. 리벨리온의 1세대 칩 아톰은 로직 설계에서 DSP 업체 세미파이브와 체결했는데, 리벨은 삼성전자 인하우스와 직접 계약했기 때문이다.
통상적으로 삼성전자는 글로벌 대형 고객사의 칩 설계만 수주하는데, 국내 스타트업과 DSP 계약을 체결한 것은 이례적이다. 이는 삼성전자가 적극적으로 국내 스타트업을 육성하겠다는 의지로 해석된다.
사피온, SK하이닉스와 HBM뿐 아니라 첨단 패키지 협력
사피온은 작년 11월에 AI 반도체 신제품 'X330'을 출시한데 이어 2025년 말 또는 2026년에 HBM을 탑재한 차세대 'X430'을 출시할 계획이다. X430은 5나노 공정 또는 4나노 공정으로 TSMC에서 제조되고, DSP 업체는 에이직랜드가 담당할 예정이다.
류수정 사피온 대표는 지난해 11월 기자들을 만나 "X440은 사피온 칩 중에서 처음으로 HBM3 이상급 메모리가 탑재되고, SK하이닉스와 협력할 계획"이라며 "AI 반도체는 메모리에 대한 혁신도 동반돼야 한다"고 말했다.
SK하이닉스는 사피온의 협력사이자 내부 투자자이기도 하다. 2022년 SK텔레콤에서 AI 반도체 팹리스 기업으로 분사한 사피온은 당시 SK ICT 연합 3사(SK텔레콤, SK하이닉스, SK스퀘어)가 공동 투자해 출범했다.
관련기사
- SK하이닉스, 'CES 2024'서 HBM·CXL 등 AI 메모리 기술력 강조2024.01.03
- 삼성전자, HBM4서 '역전' 노린다…로직다이 공정 고도화 추진2023.12.26
- SK하이닉스 "HBM4 본격 개발…내년 하반기 CXL 상용화"2023.12.21
- 'HBM3E' 시대 개막…삼성·SK·마이크론 3파전 돌입2023.12.17
이에 따라 사피온은 SK하이닉스와 HBM뿐 아니라 AiM(Accelerator in Memory), 첨단 패키지 기술인 칩렛(Chiplet) 등에서 지속적으로 기술 협력을 해오고 있다.
AiM은 생성형 AI 서비스에서 데이터 이동을 저전력으로 효율적으로 처리할 수 있게 해주는 가속 솔루션이다. 칩렛은 기존 칩에서 필요한 각각의 기능을 분리해 작은 면적의 칩 조각(칩렛)으로 따로 제조한 후, 후공정 기술을 통해 하나의 패키지로 만드는 방식이다.