韓 HBM에 도전장 낸 日 사이메모리, 기본 구조 베일 벗었다

AI칩·메모리 함께 패키징...이종 칩간 연결이 문턱

한 때 반도체 왕국을 건설하며 세계 시장을 호령하던 일본이 HBM(고대역폭메모리)을 뛰어넘는 차세대 메모리 반도체 개발에 돌입했다. 이 칩은 연산(프로세서)과 저장(메모리) 장치를 하나의 패키지 안에 수직으로 통합해 속도를 획기적으로 끌어올린 게 특징이다.

13일 반도체 업계 및 외신에 따르면 일본 소프트뱅크와 미국 인텔이 손을 잡고 ‘사이메모리(Saimemory)’를 설립했다.

회사는 저전력 AI용 메모리를 개발하는 기업이다. HBM과 비교해 전력 소모량이 절반 수준에 불과한 메모리를 개발하는 게 목적이다. HBM 시장의 90% 이상을 한국이 점유율하고 있는 만큼, 한국을 중심으로 편성된 메모리 시장의 지형도를 바꾸겠다는 의도로 해석된다.

사이메모리는 도쿄대학교 등 일본 학계의 특허와 인텔의 기술을 접목한 3D 스택형 D램 기반 메모리 시제품을 2027년까지 완성하는 것을 목표로 하고 있다. 상용화 시점은 2030년 이전으로 예상된다.

Saimemory.(이미지=일본 특허청)

AI칩까지 한번에 3D 패키징...뉴로모픽과 유사해

사이메모리는 기존 컴퓨터 구조와 다르다. 일반적으로 컴퓨터는 프로세서, 메모리, 프로그램 3가지로 구성된다. 이를 폰 노이만 구조라고 한다. 폰 노이만 구조의 컴퓨터는 연산과 저장의 역할을 각각 프로세서(CPU, GPU, NPU 등)와 메모리로 나눈다. 역할이 다른 만큼 물리적 위치도 떨어져 있다. 프로세서와 메모리 사이의 신호 전송 거리를 단축시키는 인터포저가 필요한 이유다.

반면 사이메모리는 메모리와 프로세서를 함께 적층했다. HBM이 D램만 적층한 뒤 GPU 옆에 놓은 칩이라면, 사이메모리는 GPU와 HBM을 함께 쌓은 걸로 이해하면 쉽다. 연산과 저장 장치가 붙어 있는 만큼 데이터 복사 없이 연산이 가능하다. 고성능 컴퓨팅의 고질적인 문제였던 병목 현상을 완화시킬 수 있는 셈이다.

GPU와 HBM이 나란히 붙어 있는 모습.(사진=마이크론)

이를 가능하게 해주는 기술이 일본 도쿄대의 특허다. 도쿄대는 지난 2019년 3월 ‘3D 스택 메모리를 포함한 AI 프로세서(Artificial intelligence processor with 3D stack memory)’라는 명칭의 특허를 등록했다. 사실상 패키징 기술로, TSV(실리콘 관통 전극) 등 기술을 통해 계층 간 초고속 연결을 실현한다.

전체적인 콘셉트는 뉴로모픽 반도체와 유사하다. 뉴로모픽은 인간의 뇌를 본따 만든 반도체로, 폰 노이만 구조에서 완전 벗어난 게 특징이다. 두 칩의 차이는 뉴로모픽이 연산과 저장이 하나의 소자에서 이뤄지는 반면, 사이메모리는 칩을 붙였을 뿐 하나의 소자에서 연산과 저장이 이뤄지지는 않는다. 부분적으로 폰 노이만 구조를 벗어났지만 완전한 탈피는 아닌 것이다.

신현철 반도체공학회 학회장 겸 광운대 반도체시스템공학부 교수는 “사이메모리는 프로세서와 메모리가 어쨌든 각각 다른 칩”이라며 “뉴로모픽은 연산과 기억을 하나의 소자에서 해야 한다. 뉴로모픽 반도체는 아닌 것 같다”고 설명했다.

이종한 상명대학교 시스템반도체공학과 교수는 “폰 노이만 구조는 메모리와 비메모리(시스템)이 데이터를 주고 받는 것인데 사이메모리도 이를 크게 벗어나진 않는 것 같다”며 “기존 구조는 유지하되 부분적으로 성능을 꾀하는 것”이라고 말했다.

삼성전자, 차세대 반도체 패키지 기술 ‘I-Cube4’.(사진=삼성전자)

이종 연결 기술이 어려워...양산이 장애물

상용화에 가장 큰 장애물은 이종 간 연결로 평가된다.

메모리와 프로세서는 칩의 구조 자체가 완전 다르다. 단순히 서로 다른 칩을 연결하는 문제가 아니라 재료, 전기, 열, 신호 처리 등 복잡한 문제가 엉켜있다. 만약 전기적 특성이 다르면 제대로 동작하지 않거나 장치에 손상이 일어날 가능성이 높다.

현재 파운드리(반도체 위탁생산) 업계에서는 이 같은 이종 반도체 간 연결을 하나의 패키지로 통합하는 기술을 개발하고 있다. 삼성전자에서는 아이큐브(I-Cube), TSMC는 인포(InFO), 인텔은 포베로스(Foveros)라고 부른다.

다만 프로세서 명가 인텔이 사이메모리에 참여한 만큼 이종간 칩 연결이 가능할 것이라는 의견도 나온다.

신현철 학회장은 “서로 다른 칩을 연결하는 건 마치 볼트가 구멍에 맞지 않는데 연결하는 그런 느낌”이라면서도 “인텔이 워낙 프로세스를 잘하는 업체니까 이쪽 부분에서 해결할 수 있는 기술이 있을 것 같다”고 예상했다.

다른 장애물로는 양산이 꼽힌다. 연구를 마치고 양산에 들어갈 때 칩의 수율을 확보하기 어려울 수 있다는 의견이다. 아울러 사이메모리가 메모리 팹리스(반도체 설계전문)를 표방하는 만큼, 지금까지 메모리의 생산 방식과 다를 가능성이 높다. 지금까지 메모리 반도체 업체들은 설계와 제조를 같이 하는 IDM(종합반도체기업)이었다. 메모리 팹리스라는 사업을 얘기한 곳은 사이메모리가 처음이다.

이종한 교수는 “뉴로모픽도 개발은 어느 정도 됐는데 양산은 또 다른 이야기인 것처럼, 실제로 양산하는 건 다른 문제”라고 말했다.