카이스트-삼성, AI 시대 'PIM 반도체' 상용화 9부능선 넘었다

"올해 세계적인 학술대회에 차세대 PIM 반도체 개발 관련 논문을 게재했습니다. 삼성전자와 협력했죠. 해당 칩은 일반 D램과 동일한 셀 구조를 가진 것이 특징으로, PIM 반도체 상용화를 위한 기술적 진보를 이뤘다는 점에서 상당히 의미가 큽니다."

유회준 PIM반도체설계연구센터장은 9일 대전 카이스트(KAIST) 본원 KI빌딩에서 기자들과 만나 PIM 반도체 연구개발 및 상용화 현황에 대해 이같이 밝혔다.

KAIST 인공지능반도체대학원 및 PIM반도체설계연구센터가 위치한 KAIST KI빌딩(사진=공동취재단)

PIM은 메모리반도체에서 자체적으로 데이터 연산 기능을 처리할 수 있도록 만든 반도체다. 저장은 메모리가, 연산은 CPU·GPU 등 시스템반도체가 각각 담당하던 기존 방식 대비 데이터 처리 속도 및 전력 효율성이 뛰어나다. 메모리와 시스템반도체 간 데이터를 주고받는 과정을 생략할 수 있기 때문이다.

이 같은 장점 덕분에 PIM은 고용량 데이터 처리가 필요한 AI 산업에서 강력한 수요를 보일 것으로 기대된다.

PIM반도체설계연구센터 역시 AI 시대를 겨냥해 PIM 반도체를 자체 개발해 왔다. 대표적인 제품이 '다이나플라지아(DynaPlasia)'다. 지난해 3월 개발된 이 칩은 아날로그형 D램-PIM 기반 AI 반도체로, 3개의 트랜지스터와 2개의 캐패시터로 구성된 셀 구조를 갖추고 있다.

또한 다이나플라지아는 메모리 셀 내부에 연산기를 집적하고, 높은 병렬성과 에너지 효율의 아날로그 연산 방식을 이용해 칩의 집적도와 연산 기능을 획기적으로 향상시켰다. 실제로 PIM반도체설계연구센터는 해당 칩을 통한 벤치마크 테스트에서 기존 반도체 구조 대비 2배 이상의 성능을 구현하는 데 성공했다.

다만 PIM 반도체가 실제로 상용화되기 위해서는 여전히 많은 과제들이 남은 상황이다. 시장 수요와 관련 생태계 구축 등이 미흡한 것도 있으나, 셀 구조가 일반 D램과 다르다는 점도 한몫을 했다.

셀은 데이터를 저장하기 위한 최소 단위다. 일반적인 D램의 셀은 각각 하나의 트랜지스터와 커패시터로 구성된다. 다이나플라지아도 이미 하드웨어 구조를 상당 부분 최적화한 칩이지만, 구조가 다르다는 한계는 여전하다.

1T1C D램-PIM 반도체 기반 AI 가속기 '다이아몬드' 시제품(사진=공동취재단)

PIM반도체설계연구센터는 이를 극복하고자 새로운 D램-PIM 기반 AI 반도체를 개발했다.

모델명은 '다이아몬드(Dyamond)'로, 삼성전자와 협력해 지난 6월 세계적인 반도체 학술대회 'VLSI 2024'에 관련 논문을 등록하는 데 성공했다.

다이아몬드는 28나노미터(nm) CMOS 공정으로 제작됐으며, 칩 면적 6.48제곱밀리미터의 27Mb(메가비트) D램을 채용했다. 이전 다이나플라지아 대비 메모리 밀도는 8배, 메모리 용량은 3배 개선됐으며, 여러 AI모델(ResNet, BERT, GPT-2)에서 최대 27.2 TOPS/W의 뛰어난 에너지 효율을 달성했다.

무엇보다 다이아몬드는 D램 셀 구조가 일반 제품과 동일하게 트랜지스터 1개, 캐패시터 1개(1T1C)로 구성됐다는 특징을 가진다.

유회준 센터장은 "일반적인 D램과 셀 구조가 같기 때문에, 다이아몬드는 PIM 반도체 상용화에 있어 상당히 큰 의미를 가진다"며 "공정 난이도도 높지 않기 때문에 시장 수요가 확대된다면 곧바로 시장 진입이 가능해질 것"이라고 설명했다.

유회준 센터장이 보는 PIM 반도체 시장의 개화기는 머지 않았다. 유회준 센터장은 "PIM 반도체의 가장 유망한 적용처는 온디바이스AI로, 기존 반도체 대비 더 높은 에너지 효율성이 요구되기 때문"이라며 "온디바이스AI가 이미 실생활에 적용되기 시작한 만큼 엔비디아 중심의 AI반도체 시장도 급격히 변화할 수 있다"고 밝혔다.