국내 주요 인공지능(AI) 반도체·인프라 기업이 컴퓨팅 자원을 동적으로 할당하는 'K-컴포저블 클러스터(K-Composable Cluster)'를 구축한다. 막대한 전력 소모와 비용 문제 문제에 직면한 인공지능(AI) 데이터센터 효율을 높이는 것이 목적이다.
27일 서울 AI허브에서 열린 'K-클라우드 테크 데이 2026'에서 김주영 하이퍼엑셀 대표는 'AI 반도체 기반 데이터센터 학습·추론 시스템 통합·검증' 과제 현황과 개발 로드맵을 발표했다.
이 사업은 2025년 4월부터 2030년 12월까지 총 5년 9개월 진행하는 대형 국책과제다. 정부 지원금 348억원과 기관 부담금 110억원 등 총 458억원을 투입한다. 주관기관인 하이퍼엑셀을 필두로 리벨리온, 파네시아, 망고부스트, 래블업, 카이스트, 네이버클라우드 등 토종 기술 기업이 총망라됐다.
프로젝트 핵심 배경은 하이퍼스케일 AI 데이터센터 확장의 최대 걸림돌로 부상한 전력 부족이다. 현재 데이터센터 전체 구축비용 중 AI 반도체 비중은 40%에 달한다. 서버당 전력 소모량은 급증하고 있다.
김 대표는 이날 발표에서 "AI 데이터센터 개발 핵심은 더 이상 토지나 자본이 아니라 전력 확보"라며 "전력 인프라 업그레이드에 수년이 걸리는 현 상황이 전체 시스템 확장의 가장 큰 병목"이라고 지적했다.
'K-컴포저블 클러스터'는 추론·학습용 신경망처리장치(NPU) 풀(Pool), 메모리 풀, 중앙처리장치(CPU) 풀 등으로 컴퓨팅 자원을 물리적으로 분리(Disaggregation)하는 기술을 적용한다.
김 대표는 "우리가 원하는 K-컴포저블 클러스터는 훌륭한 국산 AI 반도체들을 분리된 자원 풀로 구성하고, 이를 동적 미세 할당해 들어오는 워크로드를 가장 효율적으로 처리하는 차세대 아키텍처"라고 강조했다. 기존 서버 구조의 정적 할당 방식으로 자원 활용률이 31%에 머물던 구조적 비효율을 스케줄러 소프트웨어로 극복한다는 구상이다.
참여기관은 각자 전문 분야를 맡아 국산 AI 풀스택 인프라를 완성할 계획이다. 하이퍼엑셀(추론)과 리벨리온(학습)이 핵심 연산장치인 NPU를 개발하고, 파네시아가 CXL 메모리, 망고부스트가 DPU 기반 통신 시스템을 담당한다. 여기에 래블업의 자원 동적 할당 스케줄러, 카이스트의 시뮬레이션 기술을 결합하며, 최종적으로 네이버클라우드와 SKT가 수요 기업으로서 통합 시스템 실증·사업화를 수행한다.
이번 행사에서는 추론 시스템 효율을 높일 하이퍼엑셀의 자체 LPU(LLM Processing Unit) '베르사(Bertha)'의 기술 제원이 함께 강조됐다. 베르사는 기존 GPU의 데이터 이동 병목을 제거한 단일 거대 코어 설계(스트림라인 데이터플로)를 통해 메모리 대역폭 활용률을 최대 90%까지 올렸다. 또한 고가의 고대역펄메모리(HBM) 대신 192GB 용량의 모바일용 저전력 LPDDR5X 메모리를 채택해, 카드당 전력 소모(TDP)를 250W 수준으로 낮추고 인프라 초기 구축비용을 대폭 절감한 것이 특징이다.
관련기사
- K-온디바이스 AI 과제, 최종 컨소시엄 확정…모빌린트·하이퍼엑셀 '두각'2026.08.31
- 하이퍼엑셀, '생성형 AI 전용 LPU' 승부수… 2세대 팹리스의 역습2026.03.22
- 'AI 추론칩' 강자 리벨리온, 글로벌 실전 테스트 돌입2026.02.20
- 망고부스트 "에이전트 시대 DPU·SW 결합…'AI 인프라계 애플' 도약"2026.08.19
해당 컨소시엄은 1단계(1~3차년도) 과제를 통해 단일 노드 내 기술 결합을 완료하고, 2단계(4~6차년도)에 멀티 노드 간 통합을 거쳐 전체 클러스터 구축을 완료할 계획이다. 연산이 집중되는 '프리필(Prefill)' 단계는 하이퍼엑셀 LPU가, 순차 토큰 생성이 필요한 '디코드(Decode)' 단계는 기존 HBM 기반 GPU가 분담하는 하이브리드 아키텍처를 도입해 시스템 처리량을 최대 3배까지 늘릴 계획이다.
김 대표는 "최종적으로 고효율 컴포저블 클러스터를 개발해 향후 AI 데이터센터 사업이 멀티 랙 단위로 확장될 때 기반이 되는 모든 시스템과 컴포넌트를 확보하는 것이 목표"라고 강조했다.
