"두 달 만에 맞춤형 AIDC 지어 드려요"...바로AI, 모듈형 HACC 승부수

[인터뷰] 이용덕 바로AI 대표 "데이터센터보다 AI 도입 기업 늘려야"

"바로AI는 30평 공간과 300kW 전력만 확보되면, 어느 건물이든 두 달 반 만에 고객이 원하는 사양의 데이터센터를 구축합니다."

이용덕 바로AI 대표는 최근 지디넷코리아와 인터뷰에서 바로AI의 모듈형 데이터센터 사업을 이같이 소개했다. 

이 대표는 "AI 데이터센터 시장이 대형화 경쟁에 들어갔지만 모든 기업이 대규모 인프라가 필요한 것은 아니다"라며 "고성능 그래픽처리장치(GPU) 확산으로 전력과 발열 부담이 커지고 GPU 세대교체 주기도 빨라지는 만큼, 필요한 규모만큼 구축하고 수요가 늘어날 때 확장하는 방식이 효율적"이라고 설명했다.

이용덕 바로AI 대표.(사진=지디넷코리아)

바로AI가 개발한 모듈형 하이브리드 AI 컴퓨팅 센터(HACC)는 이 같은 전략을 구현한 제품이다. 지난해 평택 지식산업센터에 30평 규모 모듈 2개를 구축한 것이 첫 양산 모델이다. 기존 데이터센터처럼 대규모 시설을 먼저 짓고 GPU를 채우는 방식이 아니라 고객이 필요한 GPU 규모에 맞춰 인프라를 구축하고 이후 수요에 따라 모듈을 추가한다.

이 대표는 이를 '나만의 AI, 나만의 데이터센터' 전략이라고 설명했다. 기업마다 개발하는 AI 모델과 데이터 규모가 다른 만큼 획일적인 대규모 인프라보다 맞춤형 구축이 필요하다는 것이다.

GPU 세대교체 빠른데…"처음부터 다 살 필요 없다"

바로AI가 모듈형 데이터센터를 강조하는 배경에는 GPU의 높은 가격과 빠른 세대교체가 있다. 데이터센터를 먼저 크게 구축한 뒤 GPU를 한꺼번에 채우면 초기 투자 부담이 커지는 데다, 2~3년 뒤에는 기존 GPU를 교체해야 할 위험도 있다는 설명이다.

바로AI는 한 고객사가 GPU 서버 40대 규모 프라이빗 클라우드를 요청했지만, 우선 20대만 구축하자고 역제안한 사례도 소개했다. 고객 연구개발 상황을 고려해 필요한 시점에 추가 증설하는 것이 총소유비용(TCO) 측면에서 유리하다고 판단했기 때문이다.

바로AI의 수냉식 서버 '포세이돈'.(사진=지디넷코리아)

HACC 기반에는 바로AI가 7년간 개발해온 수냉 GPU 서버 '포세이돈'이 있다. 바로AI는 GPU에서 발생하는 열을 서버 내부에서 직접 제어하는 수냉 기술을 적용해 별도 대규모 외부 냉각설비 의존도를 낮췄다. '인쇄회로기판(PCB) 냉각 블록 및 제조방법' 특허와 '수냉각 GPU 서버' 특허 등 등록 특허 2건도 확보했다.

이 대표는 "서버는 하드웨어와 소프트웨어의 결합체이고, 하드웨어는 수많은 경험과 문제 해결을 거치면서 향상된다"며 "바로AI 서버는 지난 7년간 끊임없이 열과 소음을 잡아온 결과물"이라고 말했다. 

현재 포세이돈은 89개 대학의 350여개 연구실, 86개 B2B 기업, 7개 종합병원, 28개 정부기관 등에 공급됐다. 재구매율은 70%를 넘는다는 게 이 대표 설명이다. 회사는 해당 기술을 발전시켜 랙(Rack) 단에서 열을 잡는 수냉 시스템을 개발하고 있다.

바로AI는 GPU 서버에서 출발해 프라이빗 클라우드와 데이터센터까지 사업 영역을 넓혔다. 고객이 서버를 늘리면서 이를 묶어 관리할 클라우드가 필요해졌고, 이후 유지보수까지 직접 제공하는 풀스택 구조를 구축했다.

3년간 하드웨어·소프트웨어 보증을 제공하고 분기별 고객 방문을 통해 장비 상태를 점검하는 '디스턴스 제로(Distance Zero)' 전략도 운영한다. 고객과 거리를 '0'으로 만드는 걸 뜻한다. 

이 대표는 "단순히 장비를 판매하는 데 그치지 않고 고객이 어떤 AI를 개발하는지 파악해 다음에 필요한 인프라까지 제안한다는 전략"이라고 말했다.

바로AI 사무실 내에 있는 서버 공간 '바로 스페이스'.(사진=지디넷코리아)

"데이터센터보다 AI 도입 기업 늘려야"…산업 AX 정조준

바로AI가 정조준하는 시장은 제조·물류 등 전통 산업 현장에 AI를 적용하는 'AX'다. 이 대표는 대규모 데이터센터 숫자를 늘리는 것보다 AI를 실제 도입하고 개발하는 기업의 숫자를 늘리는 것이 중요하다고 강조했다.

그는 "전통 산업의 최고경영자(CEO)들을 만나면 AI를 하고 싶은데 무엇을 어떻게 해야 할지 모르겠다는 이야기를 많이 한다"며 "바로AI는 HACC와 온프레미스 기술을 기반으로 2·3차 산업과 공장에 AI를 접목해 이들의 비즈니스 모델 자체를 바꾸는 역할을 하고 싶다"고 말했다. 

바로AI는 지난해 90억원의 매출을 기록했다. 창업 후 연평균성장률(CAGR)은 약 95%다. 매출의 최소 30%를 연구개발(R&D)에 투자하며 기술 개발에 집중해왔다. 이제 1차 플랫폼 개발을 마무리하고 시장 확산을 위한 외부 투자와 파트너십도 검토하고 있다.

이 대표는 "필요한 만큼 만들고 필요할 때 확장하는 AI 인프라가 앞으로 중요해질 것"이라며 "바로AI가 기업의 AI 도입을 돕고 산업별 AX 플랫폼으로 성장할 수 있는 기반을 만들겠다"고 강조했다. 

Who is ¦ 이용덕 바로AI 대표

이용덕 대표는 AI 반도체와 GPU 인프라 분야에서 오랜 경험을 쌓은 기업인이다. 2002년부터 2006년까지 브로드컴 코리아 초대 지사장을 역임한 뒤, 2006년부터 2018년까지 엔비디아코리아 지사장으로 근무했다. 이후 2019년 바로AI를 창립하고 지금까지 대표로 회사를 운영 중이다.