경계현 삼성전자 사장 "AI 반도체 '마하2'도 빠르게 개발할 것"

美 5개 도시 돌며 고객사 확보..."HBM의 리더십이 우리에게로 오고 있어"

경계현 삼성전자 DS부문(반도체) 대표이사 사장이 AI 반도체 '마하1(Mach-1)'에 이어 '마하2(Mach-2)' 개발에도 빠르게 착수한다는 계획을 밝혔다.

경 사장은 5일 SNS(사회관계망서비스) 인스타그램에서 "추론(Inference) 전용인 마하1에 대한 고객들의 관심이 증가하고 있다"라며 "일부 고객들은 1테라(T) 파라미터(parameter) 이상의 큰 어플리케이션에 마하를 쓰고 싶어한다. 생각보다 더 빠르게 마하2의 개발이 필요한 이유가 생긴 것이다. 준비를 해야겠다"고 전했다.

경계현 삼성전자 DS(반도체)부문 사장(사진=경계현 SNS)

삼성전자 시스템LSI 사업부가 개발하고 있는 마하1는 AI를 추론하기 위해 특화된 범용인공지능(AGI) 반도체다. 메모리와 그래픽처리장치(GPU)와의 병목 현상을 해소할 수 있는 구조로 만들어져, 고대역폭메모리(HBM) 대신에 저전력(Low Power) D램을 써도 LLM(Large Language Models, 거대언어모델) 추론이 가능하도록 개발 중이다.

경 사장은 지난 20일 삼성전자 정기주주총회에서 AI 반도체 '마하1'을 처음으로 언급한 바 있다.

당시 경 사장은 "마하1은 여러 가지 알고리즘을 써서 메모리와 GPU 사이에 데이터 병목현상을 8분의 1 정도로 줄이고 전력 효율을 8배 높이는 것을 목표로 현재 개발 중"이라며 "올해 연말 정도면 마하1 칩을 만들어서 내년 초에 저희 칩으로 구성된 시스템(AI 가속기)을 보실 수 있을 것"이라고 말했다.

업계에 따르면 삼성전자는 마하1을 연말 네이버에 추론용 서버용으로 공급할 예정이다. 납품 규모는 15만~20만개, 개당 500만원 수준으로 논의 중이다. 삼성전자의 마하1은 엔비디아 제품의 10분의 1 수준으로 가격 경쟁력을 확보한 것으로 알려진다. 엔비디아 AI 반도체 'H100이' 개당 최대 4만달러(약 5360만원)에 거래되고, 신규 칩 'B100'은 최소 5만달러(6천600만원) 이상의 높은 가격으로 판매된다. 

경 사장은 26일(현지시간) 미국 캘리포니아주 마운티뷰에서 열린 '멤콘(MEMCON) 2024' 컨퍼런스를 비롯해 약 4일 동안 미국의 5개 도시를 돌면서 맞춤형 HBM과 2나노 공정 파운드리 고객사 확보를 위해 비즈니스 활동을 벌였다. 

경 사장은 "AI 애플리케이션에서 고용랑 HBM은 경쟁력이다"라며 "HBM3와 HBM3E 12단을 고객들이 더 찾는 이유다. (삼성전자)는 HBM 전담팀을 꾸미고, 팀은 정성을 다해 품질과 생산성을 높히고 있다. 이들의 노력으로 HBM의 리더십이 우리에게로 오고 있다"고 강조했다.

이어서 그는 "HBM4에서 메모리 대역폭(Bandwith)이 2배로 되지만 여전히 메모리와 컴퓨트 사이의 트래픽은 바틀넥(Bottle Neck)이다"라며 "많은 고객들이 이 문제를 풀기 위해 각자만의 방식으로 맞춤형(Custom) HBM4를 개발하고 싶어한다. 그리고, 고객들은 우리와 함께 그 일을 할 것이다"고 말했다.

HBM은 여러 개 D램을 수직으로 연결해 기존 D램보다 데이터 처리 속도를 대폭 끌어올린 고성능 제품이다. HBM은 1세대(HBM)·2세대(HBM2)·3세대(HBM2E)에 이어 4세대(HBM3) 제품이 공급되고 있으며, 올해 상반부터 5세대(HBM3E) 양산이 공급된다.

삼성전자는 이달 초 미국 캘리포니아 실리콘밸리에서 열린 엔비디아 개발자 콘퍼런스 'GTC 2024'에서 12단 HBM3E 실물을 처음으로 공개한 바 있다. 현재 삼성전자는 2025년 공급을 목표로 HBM4를 개발 중이다.

경계현 삼성전자 사장이 테슬라 사이버트럭을 시승하고 내리는 모습.(사진=경계현 SNS)

경 사장은 파운드리 2나노 공정에 대해서 "로직 파워를 줄이고 성능을 높여야 다양한 응용에서 AI의 지능을 키울 수 있다"라며 "고객들이 게이트올어라운드(GAA) 2나노를 원하는 이유다"라며 "이런 이유로 많은 고객들이 파운드리 2나노 공정을 위한 테스트 칩을 흘리고 있거나 흘리기로 했다"로 말했다. 이어서 그는 "성공적인 기술 개발을 통해 이들이 2나노 제품개발로 이어지도록 할 것이다"고 전했다.

삼성전자는 내년부터 2나노 공정으로 반도체를 양산을 앞두고 있다.

경 사장은 테슬라 본사도 방문한 것으로 보인다. 경 사장은 "테슬라에서는 고맙게도 사이버트럭을 시승할 수 있는 기회를 줬는데 생각보다 안락했고, 가속력이 대단했다"라며 "10개의 카메라로 주변을 인식하는 능력이 훌륭해 보였고, 짧은 회전 반경과 큰 와이퍼가 인상적이었다"고 평가했다.