AI 연산 직접하는 메모리반도체...폰-노이만 구조 탈피

D램 메모리 셀 소자 내부에서 연산 기능을 수행하는 PIM(Processing-In-Memory) 반도체가 국내 연구진에 의해 개발됐다.

세계 최초로 하나의 메모리 셀에서 D램의 기존 메모리 기능과 연산기, 데이터 변환(A/D)가 이뤄지는 트리플-모드 셀이 적용된 점이 주목할 부분이다.

프로세서와 메모리가 분리된 기존 컴퓨팅 구조를 일컫는 폰-노이만 구조를 벗어나 하나의 칩에서 프로세서 연산기와 메모리를 집적한 차세대 반도체의 개발로 최근 급증하고 있는 AI 컴퓨팅의 수요를 충족시킬 전망이다.

과학기술정보통신부는 KAIST 유회준 교수 연구팀이 국내 최초로 D램 메모리 셀 내부에 직접 연산기를 집적해 인공지능(AI) 연산을 수행하는 PIM 반도체인 ‘다이나플라지아(DynaPlasia)’를 개발했다고 14일 밝혔다.

트랜지스터 3개로 구성된 하나의 셀...컴퓨팅 구조 바꿨다

PIM은 프로세서와 메모리를 하나로 만든 구조다. 기존 컴퓨팅 구조에서 프로세서와 메모리 사이를 오가는 데이터와 이때 쓰이는 전력 소모를 해결할 수 있는 방식이다.

기존에도 PIM 반도체가 개발됐지만, 대부분 셀 하나에 8개 이상의 트랜지스터가 필요한 S램 기반의 PIM 방식이거나 HBM-PIM, GDDR6-AiM과 같이 D램 기반 PIM을 구현했더라도 연산기를 메모리 셀 어레이 내부가 아닌 외부에 근접하게 배치하는 디지털 PIM 방식을 사용했다.

PIM 시연을 맡은 KAIST 박사과정 김상진 연구원. 다이나플라지아 논문 제1저자를 맡았다.

디지털 PIM 방식은 메모리와 연산기 사이의 거리를 줄이고 대역폭을 넓혀 데이터 병목현상은 감소할 수 있다.

이와 달리 연구팀이 선보인 다이나플라지아는 아날로그형 D램-PIM 기반 AI 반도체로, 3개의 트랜지스터만으로 셀을 구성했고 메모리 셀 내부에 연산기를 집적하고 높은 병렬성과 에너지 효율의 아날로그 연산 방식을 이용해 집적도와 연산 기능을 획기적으로 높였다.

이를테면 어떤 정보를 기억하기 위해 글을 노트에 적어두는 동시에 노트 종이가 계산기와 같은 기능을 하면서 새로운 정보를 써두고, 이를 디지털 신호와 아날로그 신호를 바꿔주는 기능까지 종이에서 일어나는 식이다. 연구팀이 일컫는 트리플-모드 셀은 이를 뜻하는 말이다.

초거대AI 시대 컴퓨팅 소비전력 줄인다

대중적인 관심까지 높아진 챗GPT와 같은 초거대AI 모델은 상당 수준의 컴퓨팅 자원이 필수적이다. 기존 컴퓨팅 방식을 병렬로 확장해 데이터센터 수준의 전력 소비가 발생하게 된다.

반면, 유회준 교수 연구팀이 개발한 다이나플라지아는 실제 AI 연산 방식에서 세계 최고 수준의 에너지 효율을 달성했다.

모든 메모리 셀이 병렬로 동작할 수 있어 기존 D램-PIM 방식 대비 약 300배 높은 병렬성으로 15배 높은 데이터 처리량을 보인다. 아울러 트리플-모드 셀을 이용해 실제 AI 연산에 맞춰 하드웨어 구조를 형성하는 아키텍처에 따라 기존 아날로그형 PIM 반도체보다 2.5배 높은 효율성을 얻을 수 있다.

연산 능력은 높이면서도 에너지 효율은 올랐다는 것이다. 예컨대 자동차의 배기량을 높였지만 연비 효율은 더욱 개선됐다는 설명이다.

산학연 협업 결실...SW 추가 개발 추진

다이나플라지아는 현재 삼성전자 파운드리 공정으로 제작됐다. 삼성전자와 SK하이닉스가 운영위원으로 참여하는 PIM반도체 설계연구센터(PIM HUB)에서 진행된 사업의 결실로 설계부터 제작까지 이뤄진 셈이다.

이같은 새로운 반도체 기술은 특허 보호를 받게 되며 삼성전자나 SK하이닉스 등 메모리반도체 회사에 특허 사용을 전제로 기술을 공유하고 있다. 두 회사가 사업성과를 확신하게 되면 파운드리 공정이 아닌 기존 메모리 생산라인에서 양산이 이뤄질 수도 있다는 뜻이다.

추가적인 연구개발도 이뤄질 예정이다. 연구팀은 이날 다이나플라지아 시연에서 FPGA와 함께 구성했다. 기존 컴퓨팅 방식과 달라 상호 연결 인터페이스 접점을 찾아야 하기 때문이다. 이같은 점을 고려할 때 반도체 하드웨어 설계를 비롯해 소프트웨어 개발도 추가적으로 이어져야 한다.