GPU에서 NPU까지…클러쉬, AI칩 혼용 시대 겨냥

[AI페스타 26] AXLEON으로 GPU·NPU·CPU 통합 관리

인공지능(AI) 인프라 기업 클러쉬가 GPU부터 NPU까지 서로 다른 연산 자원을 하나의 플랫폼에서 통합 운영하는 기술을 앞세워 기업용 AI 인프라 시장 공략에 나섰다. AI 연산 수요가 커지면서 기업이 다양한 종류와 세대의 가속기를 함께 사용하는 환경이 늘어날 것으로 보고, 이미 확보한 고가 장비 활용률을 높이는 데 초점을 맞췄다.

클러쉬는 6일 'AI 페스타 26'에서 AI 인프라 플랫폼 'AXLEON'을 선보였다. AXLEON은 GPU·NPU·CPU와 여러 클러스터를 하나의 제어 환경에서 관리하는 플랫폼이다. 쿠버네티스 표준을 기반으로 제조사나 종류가 다른 연산 자원을 단일 API로 통합해 운영할 수 있도록 설계됐다. 

클러쉬가 주목하는 것은 기업 AI 인프라의 파편화다. 기업들이 처음부터 동일한 GPU로 대규모 팜을 구축하기보다 투자 시점과 수요에 따라 여러 세대 장비를 순차적으로 도입하면서 하나의 데이터센터 안에서도 다양한 GPU가 섞이는 경우가 많다는 설명이다.

'AI 페스타 26'에 참가한 클러쉬 부스 (사진=지디넷코리아)

클러쉬 관계자는 "같은 엔비디아 제품이라도 A100 몇 장, H100·H200 몇 장, B300 몇 장 식으로 그때그때 도입해 사용하는 경우가 있다"며 "이런 이기종 자원을 하나의 플랫폼에서 운영하면서 낭비되는 부분을 줄일 수 있다는 것이 가장 큰 장점"이라고 말했다. 

가의 GPU를 추가 구매하기 전에 현재 보유한 자원을 최대한 활용하자는 게 AXLEON의 핵심 전략이다. 여러 곳에 흩어진 연산 자원을 하나의 풀로 묶고 작업 상황에 맞춰 배치해 유휴 GPU를 줄이는 방식이다.

AXLEON은 GPU 동적 스케줄링과 자원 최적화를 지원한다. 회사가 현장에서 공개한 자료에 따르면 AI 모델의 학습 종료 시점을 예측해 대기 중인 작업을 선제적으로 배치하고, 유휴 GPU를 회수해 활용하는 방식으로 GPU 가동률 85% 이상을 목표로 한다.

클러쉬 관계자는 "GPU 장비는 워낙 많은 비용이 투입되다 보니 고객 입장에서도 한꺼번에 대규모 팜을 구축하기 쉽지 않다"며 "투자한 장비에서 노는 영역을 줄여 최대한 효율적으로 사용할 수 있도록 하는 방향으로 제품을 만들었다"고 설명했다.    

지원 대상도 GPU에 국한되지 않는다. AXLEON은 GPU와 NPU, CPU를 같은 운영 체계 안에서 관리할 수 있다. 특히 AI 추론 시장을 중심으로 NPU 등 GPU 이외의 가속기 활용이 확대될 경우 기업이 워크로드에 따라 서로 다른 연산 자원을 조합하는 환경에도 대응할 수 있다는 설명이다. 

AXLEON은 AI 서버와 반도체 자원 관리뿐 아니라 모델 학습·배포, 데이터 관리, 장애 대응, 보안, AI 에이전트 운영까지 AI 인프라 전반을 하나의 플랫폼에서 관리할 수 있도록 했다.

클러쉬는 대규모 AI 인프라 사업을 통해 관련 레퍼런스도 확대하고 있다. 삼성SDS가 주도하는 국가AI컴퓨팅센터 구축 사업 컨소시엄에 참여한 유일한 중소기업으로, GPU 자원 관리와 오케스트레이션 기술을 담당한다. 

기업공개(IPO) 준비에도 속도를 내고 있다. 클러쉬는 현재 기술성 평가 절차를 진행 중이며 AXLEON의 GPU 운영 플랫폼을 핵심 기술로 내세우고 있다. 회사는 내년 증시 입성을 목표로 상장 준비를 이어가고 있다. 현장에서도 기술성 평가가 진행 중이라고 밝혔다.