"GPU 더 사지 마세요"…아크릴, 놀리는 자원 줄여 AI 비용 낮춘다

[AI 페스타 26] GPUBASE, AI 인프라 필요한 만큼 쪼개고 알아서 배치

생성형 인공지능(AI) 확산으로 고가의 그래픽처리장치(GPU) 확보 경쟁이 치열해지는 가운데 AI 전문기업 아크릴이 기존 GPU 자원의 활용률을 높여 인프라 비용을 줄이는 전략을 제시했다. GPU를 추가 구매하기보다 흩어진 자원을 하나로 묶고 작업별로 필요한 만큼 자동 배치해 유휴 자원을 최소화한다는 구상이다.

아크릴은 6일 서울 코엑스에서 열린 'AI 페스타 2026'에서 AI 인프라 오케스트레이션 플랫폼 'GPUBASE'를 선보였다. GPUBASE는 여러 서버에 분산된 GPU를 하나의 자원 풀처럼 관리하고, 각 워크로드에 필요한 자원을 배분해 GPU 활용률을 높이는 솔루션이다. 

아크릴 관계자는 "회사 환경에 나눠져 있는 GPU를 하나의 서버처럼 취급한 뒤 워크로드에 맞춰 배치해 가능한 한 남는 자원 없이 활용하는 것이 목표"라고 설명했다.

'AI페스타 26'에 참여한 아크릴 (사진=지디넷코리아)

아크릴은 기업들이 실제 필요한 수준보다 많은 GPU 자원을 잡아두면서 장비가 놀게 되는 문제가 적지 않다고 보고 있다. GPUBASE는 AI를 활용해 각 작업에 필요한 GPU 성능과 자원량을 예측한 뒤 적합한 GPU에 자동 배치한다. 이를 통해 필요 이상으로 자원을 할당하는 '오버 프로비저닝'을 줄일 수 있다는 설명이다.

네트워크 최적화 기능도 차별점으로 내세웠다. 특정 경로에 트래픽이 몰릴 경우 이를 감지해 다중 경로로 분산하고, 작업별 우선순위에 따라 트래픽을 처리하도록 지원한다. 아크릴 관계자는 “한 경로에만 트래픽이 몰려 과부하가 발생하지 않도록 하고 우선순위가 높은 작업을 먼저 처리하는 것이 회사가 주력으로 내세우는 기술”이라고 말했다.

이기종 가속기 통합도 지원한다. GPU뿐 아니라 다양한 가속기 자원을 한데 묶어 하나의 인프라처럼 관리하고 필요에 따라 나눠 사용할 수 있도록 하는 방식이다. 아크릴은 이를 통해 특정 GPU나 서버에 자원이 묶이지 않고 전체 인프라를 보다 탄력적으로 운영할 수 있다고 설명했다.

GPUBASE 벤치마크 화면 (사진=지디넷코리아)

아크릴에 따르면 일반적인 GPU 평균 가동률은 50~60% 수준인 반면 GPUBASE를 적용한 자체 실증 환경에서는 실효 가동률이 최대 93%까지 높아졌다. 회사는 GPU 100장을 보유한 환경을 가정할 경우 실제 가동되는 자원이 60장 수준에서 최대 93장 수준으로 늘어나는 효과를 기대할 수 있다고 강조했다. 다만 해당 수치는 아크릴 자체 실증 및 회사가 인용한 업계 평균치를 기준으로 한 것이다.

아크릴은 올해 GPUBASE 확산에 사업 역량을 집중할 계획이다. 아크릴은 지난해 GPUBASE 기술을 기반으로 기술특례 상장했으며 관련 기술 연구개발도 지속하고 있다.

현재 의료기관을 비롯한 고객사에 관련 AI 솔루션을 공급하고 있으며 다른 기업들과도 도입 논의를 이어가고 있다. 아크릴 관계자는 "현재 다른 기업들과도 꾸준히 미팅을 진행 중"이라고 밝혔다.