삼성·SK "차세대 메모리 PIM, AI PC·스마트폰에 적용"

HBM 이어 주목받은 'AI 메모리'...2~3년 내 양산 기대

반도체ㆍ디스플레이입력 :2024/05/30 16:35    수정: 2024/05/31 09:43

차세대 메모리 PIM(프로세싱 인 메모리, Processing-In-Memory) 반도체가 몇 년 안에 AI(인공지능) PC와 AI 스마트폰에 적용될 전망이다. 삼성전자와 SK하이닉스는 PIM 개발에 주력하며 개화 시기를 엿보고 있다.

PIM은 메모리 반도체에 연산 기능을 더해 인공지능(AI)과 빅데이터 처리 분야에서 데이터 이동 정체 문제를 풀 수 있는 차세대 메모리다. PIM은 GPU와 CPU가 메모리에서 데이터를 불러와 연산하는 폰노이만 구조와 달리 메모리 내부에서 연산한다는 점이 특징이다.

30일 손교민 삼성전자 마스터, 김동균 SK하이닉스 펠로우는 양재 엘타워에서 열린 'AI-PIM 반도체 워크샵'에서 'AI 반도체 붐 속에서 학계, 산업계에서 바라보는 PIM 반도체 개발 방향'이란 주제로 토론을 펼쳤다.(사진=지디넷 코리아)

30일 손교민 삼성전자 마스터, 김동균 SK하이닉스 펠로우는 양재 엘타워에서 열린 'AI-PIM 반도체 워크샵'에서 'AI 반도체 붐 속에서 학계, 산업계에서 바라보는 PIM 반도체 개발 방향'이란 주제로 토론을 펼쳤다.

김동균 SK하이닉스 펠로우는 "PIM은 AI 연산 중 추론 영역에서 활용도가 높다"라며 "PIM을 탑재한 AI PC와 AI 모바일(스마트폰)이 몇년 안에 출시되고, 또 시장 점유율을 높일 수 있을 것으로 본다"고 전망했다.

AI 스마트폰은 배터리를 많이 소모한다는 점이 지적되고 있는데, PIM은 이 부분을 해결할 것으로 기대된다.

김 펠로우는 "AI 스마트폰은 실시간 번역 기능만 사용해도 3~4시간만에 배터리를 모두 사용하고, 열도 많이 난다또 스마트폰은 PC와 비교해 내부 공간이 좁아 하드웨어적인 한계가 따르는데, 이런 PIM 사용이 적합하다"고 설명했다.

스마트폰 다음으로 PC에서도 PIM 활용도가 높을 전망이다. 그는 "AI PC를 워크 어시스턴스로 사용할 때, 사내 서버와 클라우드 연결에서 레이턴시(지연시간) 문제가 생길 수 있다. 이 때 PC에  PIM을 탑재하면 아키텍처는 조금 달라지지만, 퍼포먼스가 올라갈 수 있다"라며 "향후 PIM을 탑재한 PC와 스마트폰 점유율이 높아지고, 거시적으로 데이터센터와 클라우드 시장에서도 PIM 적용이 확산될 전망이다"고 덧붙였다.

삼성전자 HBM-PIM 제품(사진=삼성전자)

AI에 필요한 메모리는 애플리케이션 별로 다양하게 요구된다.

손교민 삼성전자 마스터는 "AI 메모리에서 HBM(고대역폭메모리)이 각광받고 있는데, HBM의 대역폭(Bandwidth)을 높여가고 단을 계속 올리는 것이 쉽지 않을 것"이라며 "애플리케이션이 여러가지 있고, 시스템도 다양하기 때문에 다음 AI 메모리로 유력한 제품이 PIM이라고 생각한다"고 말했다.

이어서 손 마스터는 "다른 종류의 D램에다 메모리 대역폭을 높일 수 있는 방법, CIM(컴퓨팅 인 메모리, ComPuting In Memory) 안에 어레이 자체로 컴퓨팅 하는 것도 처음에는 도전이지만, 나중에는 더 넓게 가능할 거라고 본다. 디지털 방식으로 하면 CIM은 지금도 충분하지만 키우는 것이 문제다. 그런 관점에서 AI 메모리를 위한 패키징 등 다양한 솔루션이 있다"고 덧붙였다.

그러면서 그는 "HBM이 1번 주자인 것은 확실하나, 우리가 현재만 바라보고 갈 수 없다. 미래를 바라본다면 PIM 등 대역폭을 확보할 수 있는 솔루션이 나와야 된다고 생각한다"며 "앞으로 5년 이내에는 PIM이 꼭 필요한 솔루션기에 산업계와 학계가 개발을 위해 노력하겠다"고 강조했다.

SK하이닉스가 메모리 반도체에 연산 기능(PIM)을 적용한 첫 제품 GDDR6-AiM(사진=SK하이닉스)

양사는 PIM 상용화를 위한 개발에 한창이다. 삼성전자는 2021년 세계 최초로 HBM-PIM(Processing-in-Memory)을 개발하고 반도체 분야 세계 최고권위 학회인 ISSCC에서 논문을 공개했다.

관련기사

SK하이닉스는 2022년 PIM을 개발하고, PIM이 적용된 첫 제품으로 초당 16기가비트(Gbps) 속도의 'GDDR6-AiM(Accelerator in Memory)' 샘플을 개발했다. 또 지난해 9월 'AI Hardware & Edge AI Summit(이하 AI 서밋) 2023'에서 GDDR6-AiM 기반의 생성형 AI 가속기 카드인 AiMX 시제품을 최초로 시연해 주목받은 바 있다.

한진만 삼성전자 부사장은 앞서 지난 1월 CES 2024에서 "AI 가속기가 요구하는 메모리 성능이 점점 늘어나면서 지금은 HBM이 각광받고 있지만 앞으로는 CXL 등 차세대 메모리가 더 주목받을 것"이라며 "이미 고객사들 사이에서 새로운 메모리 설계에 대한 요구가 나오는 만큼, 2~3년 내 가시화하고 본격적으로 개화될 것으로 생각한다"고 전망했다.