[IITP 기술산책] 지능형 반도체, 반도체 산업 패러다임 변화 이끈다

[IITP 기술산책]은 과기정통부 산하 공공기관으로 ICT 연구개발(R&D)을 총괄하고 있는 정보통신기획평가원(IITP) 연구원들이 부정기적으로 쓰는 컬럼난입니다. [편집자주]

지능형 반도체에 대한 관심이 높다. 지능형 반도체는 순차연산 위주인 CPU의 병렬 연산 한계를 극복한 것으로, 대용량 데이터 병렬 연산을 요하는 인공지능(AI) 연산을 효율적으로 보조하는 반도체다. AI연산을 위해 CPU 내에 연산가속기를 탑재하거나, CPU와 병행해 GPU, ASIC, FPGA 등을 활용하는 반도체가 활발히 개발되고 있다.

산업의 고도화에 따른 스마트 제조, 스마트 팜, 스마트 물류 등 산업 전반의 스마트화 배경에는 AI 연산이 있다. 또한 최근 언어학습을 위한 알고리즘 연산 변수가 조단위 이상으로 급증하는 등 지능형 반도체의 중요성이 커지고 있고, 이와 관련한 연산 프로세서 구조, 인터페이스, 패키징 등에서 다양한 혁신이 일어나고 있다.

■ 프로세서 시장 지각 변동···CPU 중심에서 AI 연산 프로세서로 확장

지능형 반도체 시장은 GPU 중심으로 시장이 형성되어 있고 엔비디아와 AMD가 시장을 양분하고 있는 상태이다. 최근 CPU 분야 세계최고 강자 인텔도 시장 수요를 반영해 데이터 센터와 고성능 PC시장을 목표로 GPU를 개발하고 시장 공략에 나서고 있다. 또 빅테크 기업인 구글, 아마존은 자사의 데이터 센터 서버에서 AI 연산 대응을 위해 독자적인 지능형 반도체인 그래비톤, TPU 등을 각각 개발하고 있다. 클라우드 시장 리더인 아마존과 구글이 급증하고 있는 AI 연산을 위해 지능형 반도체 개발에 나선 것은 필연적인 수순으로 보인다.

GPU의 약점 중 하나는 소비전력이다. 저전력 기반 지능형 반도체 개발을 위해 그래프코어(Graphcore), 그로크(Groq), Mythic, 텐서토렌트(Tensortorrent) 같은 반도체 스타트업들이 데이터 센터와 엣지 컴퓨터 분야에서 소비전력 대비 연산성능이 우수한 지능형 반도체 연구개발에 힘을 기울이고 있다.

■ 컴퓨터 구조 혁신 PIM과 뉴로모픽 반도체

현대 컴퓨터의 폰 노이만 구조는 연산을 담당하는 유닛(CPU, APU, GPU 등)과 학습데이터를 저장하는 메모리가 물리적으로 분리되어 있다. 이에 고용량 학습데이터를 활용하는 AI 연산시 연산유닛과 메모리 사이간 병목 현상이 발생한다. 또 메모리 데이터 이동에 쓰이는 에너지는 연산에 소요되는 에너지의 약 650배 인데, 전력 소비와 데이터 병목 문제 해결을 위한 구조가 PIM과 뉴로모픽 반도체다.

PIM 반도체는 크게 메모리와 연산유닛 간 물리적 거리를 줄인 PNM(Processing Near Memory)과 메모리 뱅크에 로직을 적용한 PUM(Processing Using Memory)으로 분류된다. 해외는 PNM 방식을 개발하고 있고, 국내 삼성과 SK 하이닉스는는 메모리 산업의 강점에 기반해 PUM 위주 개발을 하고 있다.

뉴로모픽 반도체는 PIM과 연산코어를 합성한 구조로 볼 수 있으며, PIM 메모리가 단순 메모리 기능이라면 뉴로모픽 반도체는 메모리에 신경 전달함수 기능을 포함해 뇌신경을 모사, 지향한 구조다. 대표적으로 인텔, IBM 등이 연구 진행하고 있으며, 최근 하이델베르크 대학은 초당 100 기가 이상의 이벤트를 처리하는 웨이퍼 스케일의 뉴로모픽 반도체 연구 결과를 발표했다.

■ 칩렛(Chiplet), 가성비 높은 반도체 폼 팩터 진화 모델

칩렛은 고성능 다기능을 하나의 단일 칩에서 구현하지 않고, 기능별로 분리한 단(單) 기능 다중 다이(Die)를 말한다. 분리 패키징 방식으로 제작하며 반도체 팹 비용과 수율을 개선할 수 있다. 이를 구현하려면 다이와 다이 간 데이터 이동을 위한 고속 인터커넥션을 위한 표준이 필요한데, AMD와 인텔, 삼성, TSMC, MS, 메타 등을 중심으로 UCIe 표준 컨소시엄 구성이 추진되고 있다. 최근 2000개 이상 이종(heterogeneous) 다이를 집적한 칩렛 기반의 지능형 반도체를 UCLA대학에서 개발했는데, 엔비디아와 AMD, 인텔 GPU는 칩렛에 기반한 지능형 반도체다.

■ 해외 스타트업들 창의적이고 도전적인 기술로 시장 공략

세레브라스(cerebrass)는 300mm 웨이퍼 전체를 활용한 지능형 반도체와 고용량 AI연산 데이터의 메모리 병목을 해결하기 위해 독자적인 인터페이스 솔루션을 개발했다. 또 삼바노바는 학습 및 추론이 가능하고, AI 연산시 칩 내 데이터 흐름을 개선, 학습 모델에 따라 재구성이 가능한 지능형 반도체를 개발하고 있다.

한편, 전자기반이 아닌 광기반의 지능형 반도체도 연구가 진행되고 있는데, MIT스타트업 라이트인텔리전스(Lightelligence)와 프린스턴 대학 스타트업 루미너스 컴퓨팅(Luminous Computing)은 AI 행렬 연산에 광신호를 활용해 저전력 고성능 AI 연산에 대응하는 지능형 반도체를 연구중이다.