퓨리오사AI "에이수스와 NPU 카드 넘어 AI 인프라로 협력 확대"

"에이전틱 AI의 핵심은 결국 파운데이션 모델입니다. 최근 다양한 오픈소스 기반 프론티어 모델이 부상하고 있는 만큼, 퓨리오사AI는 이런 모델을 최대 성능과 효율로 구동할 수 있는 해결책을 제공하는 데 주력하고 있습니다."

지난 3일 서울 여의도 콘래드호텔에서 지디넷코리아와 만난 백준호 퓨리오사AI 대표는 에이전틱 AI 시대의 AI 인프라 경쟁력으로 '추론 효율성'을 꼽았다.

퓨리오사AI는 2017년 설립된 국내 1세대 NPU 기업이다. 자체 개발한 NPU와 소프트웨어 기술력을 바탕으로 데이터센터 AI 추론 시장을 공략하고 있으며, 2세대 NPU 레니게이드를 통해 국내외 고객사로 공급 범위를 확대하고 있다.

백준호 대표는 "2세대 NPU '레니게이드(RNGD)'는 에이전틱 AI로 늘어난 연산 비용을 낮출 수 있는 AI 추론 솔루션이며 에이수스와 고효율 AI 추론 인프라 공급을 위해 협력할 것"이라고 밝혔다.

"레니게이드 NPU, GPU 대체할 고효율 솔루션"

AI가 실험 단계를 넘어 실제 서비스에 대규모로 적용되면서 기업들이 가장 크게 직면한 문제는 비용이다. AI 서비스 이용량과 추론 규모가 급증하면서 GPU 중심의 인프라 비용과 전력 비용이 전체 서비스 비용에서 차지하는 비중도 커지고 있다.

퓨리오사AI는 이런 문제를 해결할 수 있는 대안으로 올해부터 공급에 들어간 2세대 NPU '레니게이드(RNGD)'를 내세웠다. 기존 GPU 대비 전력 및 인프라 비용을 낮추고, 동일한 AI 서비스를 보다 효율적으로 운영하는 것이 목표다.

백 대표는 "레니게이드는 GPU의 보완재가 아닌 대체재다. 자체 추산 결과 레니게이드는 비용 효율 면에서 엔비디아 H200(호퍼) 등 GPU 대비 약 1.3~2배 더 효과적"이라고 설명했다.

이어 "삼성SDS 클라우드 인스턴스에 레니게이드가 도입돼 기업 고객 대상 상용 서비스 중이며 업스테이지 등 AI 네이티브 기업도 활용중이다. LG 엑사원 등 프론티어 모델을 비롯해 공공·금융·발전소 등 다양한 산업 분야에서도 도입이 진행중"이라고 말했다.

"긴 문맥·반복 추론 부담 더는 솔루션에 집중"

챗봇이나 거대언어모델(LLM) 등 기존 생성 AI는 이용자의 요청에 대한 응답을 생성하는 데 목적이 있다.

반면 에이전틱 AI는 목표를 달성할 때까지 여러 차례 추론을 반복하고, 긴 문맥을 유지하면서 지속적으로 토큰을 생성한다. 이 과정에서 긴 문맥을 유지하고 대규모 토큰을 생성하면서 추론 비용도 증가할 수 있다.

백준호 대표는 "에이전틱 AI 확산에 따라 추론 연산이 늘어나며 관련 비용이 급증하는 만큼 이를 효율적으로 처리할 수 있는 AI 반도체와 인프라가 반드시 필요하다"고 강조했다.

이어 "퓨리오사AI는 반복적인 추론 과정에서 발생하는 KV 캐시를 효율적으로 관리하고, 소프트웨어 스택 차원에서 전체 문맥을 효과적으로 유지·관리하는 하드웨어 및 소프트웨어 최적화에 집중하고 있다"고 설명했다.

"1세대 NPU 상용화부터 에이수스와 협력"

퓨리오사AI는 1세대 '비전NPU' 상용화 단계부터 대만 컴퓨팅·인프라 기업인 에이수스와 협력해 왔다.

백준호 대표는 "레니게이드 NPU 탑재 카드의 상용화와 대량 생산 과정에서 에이수스의 역할이 컸다"고 말했다.

설계한 실리콘을 실제 서버에 탑재할 수 있는 복잡한 카드 제품으로 구현하고, 대량 생산 단계까지 안정적으로 연결하는 과정에서 에이수스가 보유한 제조·양산 경험과 노하우가 결정적인 역할을 했다는 것이다.

폴 주 에이수스 인프라 솔루션 비즈니스 그룹(ISG) 총괄 수석부사장은 "에이수스는 퓨리오사AI의 성장 가능성과 잠재력을 보고 협력에 나섰다"고 설명했다.

퓨리오사AI가 칩과 아키텍처 설계에 강점을 갖고 있다면 에이수스는 시스템 설계와 제조, 부품 조달 및 글로벌 공급망에서 강점을 갖고 있다. 양사는 서로 다른 역량을 결합해 실제 제품을 시장에 공급하는 데 초점을 맞췄다.

폴 주 부사장은 "에이수스는 시스템 레벨 특화, 퓨리오사AI는 칩 면에서 장점이 있다. 부품 선정 등에 있어서도 서로 장점을 결합할 수 있다고 판단했다"고 설명했다.

"에이수스와 글로벌 AI 인프라 시장 공략 확대"

양사는 단순한 NPU 카드 제조와 공급을 넘어 서버와 시스템, 나아가 수백 MW(메가와트)에서 수 GW(기가와트) 급 AI 인프라 구축으로 협력 영역을 확대중이다.

폴 주 에이수스 수석부사장은 "글로벌 시장 확대에는 기술력뿐 아니라 현지 영업, 제품 공급, 판매 후 유지보수까지 고객이 요구하는 전체 공급망을 구축하는 것이 중요하다"고 설명했다.

이어 "1세대 협력에서는 에이수스가 크게 드러나지 않았지만 시스템과 랙 차원에서 강점이 있는 만큼 앞으로 더 많은 리소스를 제공하며 협력할 것"이라고 말했다.

관련기사