"삼성전자·SK하이닉스·샌디스크, HBF 준비…2030년 뜰 것"

[인터뷰] 김정호 KAIST 교수 "인력수요 대응 위해 'HBM/HBF기초연구센터' 3개는 만들어야"

"올해 말부터 본격 상용화 되기 시작한 6세대 12단 고대역폭메모리(HBM) 4 이후 오는 2030년께면 고대역폭낸드플래시메모리(HBF)가 전면에 대두될 것입니다. 우리나라를 포함해 샌디스크 등 글로벌 메모리 3사가 이미 HBF 준비에 착수했습니다."

'HBM 아버지' 김정호 KAIST 전기및전자공학부 교수가 최근 'HBF 시대'를 예측하고 나서 주목받고 있다.

김 교수는 HBM의 기본 개념과 구조를 창안한 인공지능(AI) 반도체 분야 세계적인 석학이다. 김 교수는 HBM의 기본 개념과 구조를 창안했다. 2년마다 HBM의 집적도가 2배가 될 것이라는 예측으로 화제를 모았다.

2000년 초부터 HBM의 도래를 예견하고, SK하이닉스와 협업연구를 시작했다. 이는 지난 2013년 SK하이닉스가 세계 최초로 HBM을 상용화하는데 주도적, 결정적인 역할을 했다.

HBF에 대해 설명하는 김정호 KAIST 전기 및 전자공학부 교수.

지난 아시아태평양경제협력체(APEC) 회의 때 한국을 찾은 젠슨 황 엔비디아 CEO의 '깐부치킨' 협력과 관련해 김 교수는 이렇게 해석했다.

"GPU 26만 장을 한국에 공급하는 약속도 삼성전자와 SK하이닉스로부터 6세대 HBM인 HBM4를 안정적으로 공급받기 위한 공급망 확보 전략의 일환으로 보여집니다. 선제적인 투자가 이루어지면, 우리나라는 HBM에 이어 HBF에서도 차세대 반도체 메모리 시장의 주도권을 잡을 수 있을 것 같습니다."

김 교수는 평소 AI시대 핵심 반도체는 GPU보다 HBM이 더 중요해질 것이라는 주장을 펴왔다.

삼성전자와 SK하이닉스 등 우리나라 반도체 산업의 성장을 견인해온 김 교수를 만나 최근 만나 HBM의 미래와 한국의 나아갈 방향 등에 대해 들어봤다.

"10년 내 AI학습량 현재보다 1천배 가량 늘어… HBM 수요도 비례해 증가"

- HBM과 AI의 시장 판도 변화에 대해 예측해 달라.

"AI는 알파고 같은 판별형 AI를 지나 생성형 AI로 진화하며, 그림도 그리고, 영화도 만들어 낸다. 이 다음 단계가 에이전틱 AI고, 그 다음은 피지컬 AI다.

그런데 여기서 재미있는 현상 하나를 봐야 한다. 기능이 많아질수록 AI가 학습해야 하는 데이터량이 어마어마하게 증가한다. 아마도 10년 내 AI 학습 데이터량이 지금보다 1천 배 가량은 늘 것으로 본다. 이는 HBM 수요도 같이 1천 배 증가한다는 의미다.

얼마전 젠슨 황 CEO가 우리나라에 공급을 약속한 GPU 26만 장이면, HBM 208만 개가 여기에 들어간다. 미국은 현재 GPU 1천 만대를 보고 투자 중이다. 냉각 및 전력시설, 부지 등등을 합쳐 투입될 예산을 대략 1천조 원 정도로 예상한다. 그런데 그것이 2천만~3천만 대를 넘어 1억 대 까지도 갈 것 같다. 1억 대면, 1경 원 정도의 예산이 들어간다는 의미다. "쩐의 전쟁"이 라고 불리는 이유다."

KAIST 김정호 교수가 테라랩 연구실 학생들에게 HBM 논리 구조를 설명하고 있다.(사진=김정호 교수 연구실)

- 젠슨 황 CEO가 SK하이닉스는 물론, 삼성전자 측과도 만나는 이유를 어떻게 해석하나.

"GPU 1장에 HBM이 8개 필요하다. HBM이 GPU가격을 좌우하는 기본 요소가 됐다. SK 하이닉스 한 곳만으로는 HBM 수요를 다 채울 수 없다. 삼성전자로부터 공급을 받아도 앞으로 10배, 100배, 1천배 가는 수요를 감당할 수 없다. GPU 경쟁사와의 마케팅적 관계도 있을 것이다. 이런 요인들이 젠슨 황 CEO가 국내 여러 벤더와 접촉하는 이유로 볼 수 있다."

- HBF 시대가 올 것이라는 근거는 무엇인가.

"AI서비스와 모델을 공부하다보니, 데이터 용량이 커질 수 밖에 없겠다는 생각을 자연스레 하게 됐다.

현재 HBM을 10층이나 16층까지 쌓고 있는데, 물리적 한계도 있고 더 이상 메모리를 늘리기도 어렵다. D램으로는 안된다는 말이다. 이에 대한 대안이 D램 용량의 10배가 더 큰 낸드 플래시 메모리다. 그래서 낸드 플래시 메모리를 쌓자는 것이다.

학계에서는 우리 연구실(테라랩)이 주로 연구한다. 업계에서는 샌디스크와 SK하이닉스, 삼성전자가 HBF 개발에 뛰어들었다. 생태계 축으로 보면, SK하이닉스-샌디스크 얼라이언스 축이 있고, 삼성전자 독자 생태계가 존재한다.

이 분야 숙제는 낸드 플래시 메모리 용량을 1천 배까지 어떻게 늘리느냐다."

김정호 KAIST 교수가 지난해 KAIST-인텔-네이버클라우드와 공동연구 협약을 체결하기에 앞서, 가우디3에 대해 설명하고 있다.

- HBM과 HBF를 정확히, 어떻게 활용하자는 것인가. 아이디어는 어떻게 얻게 됐나.

"내가 제시한 아키텍처는 GPU 옆에 HBM과 HBF가 함께 있는 구조다. 인코딩이라는 전반기 작업은 HBM이 하고, 디코딩이라는 후반기 작업은 HBF가 수행하는 식이다.

우리 연구실은 HBM을 연구하는데, AI를 알아야 HBM 설계가 가능하다. 알파고 때부터 우리 연구실 학생 절반은 AI를 연구했다. 이들은 HBM 설계를 AI로 한다. 그러다보니, 자연스레 메모리가 모자랄 것이라는 생각에 이르었다.

샌디스크나 SK하이닉스, 삼성전자 등은 AI 고객들이 메모리 확장 요구를 했을 것으로 본다."

"2030년 중반 넘으면 GPU보다 메모리 매출 더 높을 것"

- HBF의 미래에 대해 예측해달라. 로드맵도 있나.

"지난 6월 HBM 로드맵을 공개했는데, 이 내용은 링크드인이나 전 세계 반도체 시장에 널리 퍼져 있다. HBF 로드맵은 내년 초 발표하려 한다.

요즘 HBM 생산이 증가하면서 D램과 낸드 플래시 메모리 물량이 모자란다. 그래서 AI 시대 컴퓨팅 중심은 메모리라고 본다. '메모리 중심 컴퓨팅' 시대로 가고 있다.

오는 2030년대 중반이 넘어가면 GPU 매출액보다 메모리 매출액이 더 높을 것이다.

기업 입장에서 보면 샌디스크나 삼성전자, SK하이닉스 등이 1차적으로 오는 2027년 시장 진입을 목표로 하는 것으로 안다. 2028년이면 제품을 볼 수 있을 것이다. 또한 HBM과 HBF가 결합한 제품은 2030년 초반께 출시될 것으로 예측한다."

- 삼성과 다양한 협력을 해오셨는데. KAIST-삼성 산학협력센터장도 맡고 계신 것으로 안다.

"삼성전자와는 지난 2010년부터 15년 째 산학협력센터를 통해 공동 연구를 수행 중이다. 80여 명의 교수 연구진이 참여 중이다. 삼성전자 반도체에 필요한 기초연구나 인력양성 등 다양한 일을 한다.

HBF 관련해서도 삼성전자와 SK하이닉스 모두 협력하고 있다."

"국회의원 설득 너무 어려워…매년 100억원이면 차세대 메모리 반 확보 가능"

- 정부 정책에 대해 한마디 해달라.

"정부 역할은 인력양성이나 기초기술 지원이다. 학교는 펀딩이 어렵다. 그래서 정부와 국회에 전국의 대학교 3곳에 HBM/HBF 기초연구센터를 세우자고 제안했다. 1년에 100명씩 석, 박사 학생을 뽑아 교육하면 10년 뒤 1천 명이 배출된다. 그러면 우리는 진짜 HBM/HBF 강국이 될 것이다.

사업 제안도 했는데, 국회 예산 평가에서 떨어진 것으로 안다. 이제 더 이상 국회에 이런 얘기를 안 한다. 국회의원을 상대로 HBM을 이해시키는 것이 너무 어렵다. 기업과 협력하면 되긴 하지만, 산업을 일으키기 위해서는 혼자 힘으로는 어렵다.

한국연구재단이 HBM/HBF 기초연구센터를 3개(설계, 재료장비, 공정) 만들어, 각 센터당 매년 30억 씩 100억 원 정도를 지원했으면 한다."

- 강의도 하시지만, 꿈이 있는지.

"몇가지 있다. 하나는 AI컴퓨터 아키텍처 혁신이다. 미국 스탠퍼드 대학인 버클리 대학 교수진이 그걸 했다. 거기서 CGPU가 나오고 핸드폰이 나왔다. AI는 '메모리 중심 컴퓨팅' 시대로 간다고 본다.

컴퓨터 구조 자체를 우리나라가 정의해보자는 것이다.  HBM/HBF로 해보는 것이 꿈이다.  반도체와 컴퓨터 아키텍처, 나아가 AI알고리즘, AI 데이터센터까지 전체를 꿰뚫는 미래 비전을 제시하고, 그것을 기업과 학생들을 통해 실현하는 것이 꿈이다."

- 덧붙일 말은.

"최근 HBM4가 나오면서 HBM이 메모리가 아니라, 시스템 반도체가 되고 있다. 여기에 GPU 기능까지 들어가기 시작했다. 미래 HBM/HBF는 더 이상 메모리가 아니라 시스템 반도체다. 나아가 수요자 요구가 제각각이어서 이를 AI파운더리 사업, AI솔루션 사업이라고 얘기한다. 이는 고객 니즈에 맞춰야 한다는 것을 의미한다.

쉽게 얘기하면, 서로가 '깐부치킨'을 더 많이 먹어야 한다는 얘기다. 기술 마케팅을 하려면, 파운드리 업체하고 일해야하고 나아가 메모리나 패키징회사, 그 다음에 AI 회사들과 같이 일을 해야 하는 것이다.

엔비디아나 AMD, 삼성전자, SK하이닉스, 샌디스크 등이 오픈AI 같은 AI 기업과 맞물려 있다. 그래서 이제는 기업의 기술 개발 방식, 마케팅 방식, 문화 방식이 전부 시스템 반도체 쪽으로 넘어와야 한다. 결국 HBM과 HBF에 엄청난 투자가 이루어져야 한다."