삼성, 세계 최초 인공지능 'HBM-PIM' 개발 성공

상반기 내 테스트 검증 완료 예정..."고객과 협력 강화할 것"

삼성전자는 17일 세계 최초로 메모리 반도체와 인공지능 프로세서를 하나로 결합한 'HBM-PIM' 개발에 성공했다고 밝혔다. 또 관련 논문을 반도체 분야 세계 최고 권위 학회인 국제반도체회로 학술회의(ISSCC)에서 공개했다고 전했다.

삼성전자는 상반기 내 고객사들의 인공지능(AI) 가속기에 HBM-PIM을 탑재해 테스트 검증을 완료할 예정이다. 또 고객사들과 PIM 플랫폼의 표준화와 에코 시스템 구축을 위해 협력을 강화해 나갈 방침이다.

삼성전자가 세계 최초로 개발한 인공지능 'HBM-PIM'. (사진=삼성전자)

프로세싱 인 메모리(PIM·Processing in Memory)는 메모리 내부에 연산 작업을 담당하는 프로세서 기능을 더한 신개념 융합 반도체를 말한다. 삼성전자는 PIM 기술을 활용해 자사 2세대 고대역폭 메모리(HBM2) '아쿠아볼트'에 AI 엔진을 탑재한 HBM-PIM을 개발하는 데 성공했다.

삼성전자에 따르면 AI 시스템에 HBM-PIM을 탑재할 경우, 기존 HBM2를 이용한 시스템 대비 성능은 약 2배 이상 높아지고, 시스템 에너지는 70% 이상 줄일 수 있다. 기존 HBM 인터페이스를 그대로 지원하는 만큼 HBM 사용자가 하드웨어나 소프트웨어의 변경 없이 HBM-PIM으로 AI 가속기 시스템을 구축할 수 있는 것도 이점이다.

최근 컴퓨팅 시장에서는 AI의 응용 영역이 확대되고 있다. 또 기술이 고도화됨에 따라 고성능 메모리에 대한 요구도 지속해서 증가하고 있다.

하지만, 기존 메모리는 폰 노이만 구조의 한계를 극복하기 어렵다는 한계가 있었다. 삼성전자의 HBM-PIM은 메모리 내부에서 연산 처리가 가능해 중앙처리장치(CPU)와 메모리간 데이터 이동이 줄어들어 AI 가속기 시스템의 에너지 효율을 높일 수 있다.

특히, 삼성전자는 메모리 내부의 각 뱅크(주기억장치를 구성할 때의 최소 논리적 단위)에 AI 엔진을 장착, 병렬처리를 극대화해 성능을 더욱 높였다. 나아가 이를 D램 공정에 접목해 HBM-PIM을 제품화했다.

박광일 삼성전자 메모리 사업부 상품기획팀장(전무)은 "HBM-PIM은 AI 가속기의 성능을 극대화 시킬 수 있는 업계 최초의 인공지능 맞춤형 PIM 솔루션으로 삼성전자는 고객사들과 지속적으로 협력을 강화해 PIM 에코 시스템을 구축해 나갈 것"이라고 전했다.

☞ 용어설명 : 폰 노이만 구조(von Neumann architecture)

폰 노이만 구조는 CPU가 메모리로부터 명령어를 불러와 실행하고, 그 결과를 다시 기억장치에 저장하는 작업을 순차적으로 진행하는 컴퓨터 구조를 말한다. CPU와 메모리 간 주고받는 데이터가 많아지면 작업처리가 지연되는 현상이 생긴다.