[인터뷰] 韓 공략 시동 건 코어위브…데이터센터 협력·추론 사업 키운다

김현석 한국·동남아 총괄대표 "韓 GPU 수요 상당"…W&B 고객 기반으로 추론 시장 확대

글로벌 인공지능(AI) 인프라 기업 코어위브가 한국 시장 공략에 속도를 내고 있다. 국내 여러 데이터센터 사업자들과 협력 방안을 논의하는 가운데 고성능 그래픽처리장치(GPU) 공급뿐 아니라 AI 추론 시장으로 사업 영역을 넓히려는 움직임도 본격화하고 있다.

9일 업계에 따르면 코어위브는 한국 데이터센터 사업 진출 가능성을 열어두고 국내 여러 사업자들과 협의를 진행하고 있는 것으로 파악됐다. 구체적인 투자 규모와 데이터센터 위치, 협력 기업 등은 공개되지 않았다.

김현석 코어위브 한국·동남아시아 총괄대표 (사진=지디넷코리아 DB)

코어위브는 최근 아시아 지역으로 AI 인프라 사업을 빠르게 확대하고 있다. 지난 8월 인도네시아에 총 360메가와트(MW) 규모의 데이터센터 3곳을 확보한다고 발표한 데 이어 이달 6일에는 인도 아다니커넥스와 협력해 나비뭄바이에 240MW 규모 AI 데이터센터를 구축한다고 밝혔다. 인도 시설에는 엔비디아의 차세대 '베라 루빈' 플랫폼을 도입할 예정이다.

이런 가운데 코어위브는 지난 6일부터 8일까지 서울 강남구 코엑스 C홀에서 열린 'AI 페스타 26'에 회사 이름을 내건 부스를 마련했다. 코어위브가 국내 전시 행사에 자체 브랜드를 앞세워 참가한 것은 이번이 처음이다.

김현석 코어위브 한국·동남아시아 총괄대표는 행사장에서 지디넷코리아와 만나 한국을 비롯한 아시아 AI 인프라 시장의 현황과 코어위브의 사업 전략을 소개했다. 김 대표는 한국·동남아시아 지역 GTM(Go-To-Market)을 맡아 GPU 인프라와 추론 서비스 등의 사업을 담당하고 있다.

코어위브는 엔비디아 GPU를 기반으로 AI 학습과 추론에 필요한 컴퓨팅 자원을 제공하는 미국 네오클라우드 기업이다. 아마존웹서비스(AWS)와 마이크로소프트(MS) 애저, 구글클라우드 등 기존 하이퍼스케일러와 달리 대규모 AI 워크로드에 특화된 인프라를 제공하는 것이 특징이다.

김 대표는 "GPU를 필요로 하는 기업이나 기관의 수요는 국가 간 경계가 거의 무의미하다"며 "한국에서도 최신 GPU를 확보하려는 기업들의 문의가 상당히 많다"고 말했다.

(사진=코어위브 공식 유튜브 캡처)

현재 국내 기업들은 코어위브의 해외 데이터센터를 통해 GPU 서비스를 이용할 수 있다. AI 모델 학습과 추론은 일반적인 클라우드 서비스에 비해 네트워크 지연의 영향이 상대적으로 제한적이어서 데이터의 해외 이전에 제약이 없다면 국내 데이터센터가 없어도 서비스를 이용할 수 있다는 설명이다.

반대로 금융·공공·의료 등 개인정보나 민감정보를 다루는 분야에서는 국내 인프라 유무가 서비스 도입에 영향을 줄 수 있다. 데이터 국외 이전에 대한 규제와 기업 내부 정책 등을 고려해야 하기 때문이다.

김 대표는 "GPU를 빌려 쓰기로 결정한 기업 중에는 데이터센터가 한국에 있는지를 크게 신경 쓰지 않는 곳도 많다"며 "금융기관이나 공공기관처럼 개인정보와 민감정보를 활용하는 곳은 데이터의 해외 이전을 고려해야 하는 경우가 있다"고 설명했다.

"韓 기업 GPU 수요 상당…수천~수만 장 문의도"

코어위브가 한국 시장에서 주목하는 분야 중 하나는 대규모 GPU 수요다. 국내 통신사와 전자·플랫폼 기업 등을 중심으로 엔비디아 최신 GPU에 대한 문의가 이어지고 있다. B300뿐 아니라 차세대 베라 루빈 시스템을 확보하려는 움직임도 나타나고 있다.

김 대표는 "국내 주요 기업들이 B300 등 최신 GPU를 수천 장에서 수만 장 규모로 요청하는 사례가 있다"며 "베라 루빈 같은 차세대 시스템에 대한 문의도 계속 들어오고 있다"고 말했다.

다만 국내 기업의 GPU 수요가 실제 대규모 공급 계약으로 연결되기까지는 넘어야 할 부분도 있다. 정부 지원 사업 등을 통해 GPU 사용 예산을 확보하는 기업이 많아 장기간 이용을 확약하기 어려운 사례가 있어서다.

김 대표는 "국내 대기업에서 B300을 수천 장에서 수만 장 규모로 요청하더라도 사용 기간을 물어보면 6개월이나 7개월이라고 답하는 경우가 있다"며 "정부 지원 사업을 통해 GPU를 확보하다 보니 프로젝트의 연속성을 몇 년 이상 보장하기 어려운 구조도 있다"고 말했다.

6~8일 서울 강남구 코엑스 C홀에서 진행된 'AI FESTA 26' 행사에 참여한 코어위브 부스.

이는 대규모 GPU를 선제적으로 확보해 장기간 제공하는 네오클라우드의 사업 방식과 차이가 있다. 코어위브는 대규모 GPU 공급에서 사용 기간과 물량에 대한 고객의 확약을 중요하게 보고 있다. 최근에는 3~6개월 단기 계약도 체결하는 등 공급 방식을 다변화하고 있지만 대규모 물량을 안정적으로 제공하려면 장기적인 수요 예측이 필요하다.

김 대표는 한국에서 들어오는 대규모 GPU 공급 요청에서도 계약 기간과 수량, 선급금 등의 조건이 중요하다고 설명했다. 단순히 GPU가 필요하다는 요청만으로 대규모 물량을 확보해 제공하기 어려운 사업 구조라는 의미다.

특히 GPU 공급 능력이 네오클라우드 기업들의 경쟁력을 좌우한다고 봤다. 기존 클라우드 사업자와 네오클라우드는 서비스 구조와 기술 아키텍처에서 차이가 있지만 고객이 원하는 최신 GPU를 제때 확보하지 못하면 가격이나 소프트웨어 경쟁력을 앞세우기도 어렵다는 설명이다.

하이퍼스케일러와 네오클라우드의 차별점도 여기에 있다. AWS·애저·구글클라우드가 CPU와 GPU를 비롯한 다양한 컴퓨팅 자원을 범용 클라우드 아키텍처에서 제공한다면 네오클라우드는 대규모 GPU 클러스터와 네트워크, 소프트웨어를 AI 학습·추론에 맞춰 구성한다. 고객은 기존 클라우드 계약과 비용, AI 워크로드의 특성 등을 고려해 필요한 인프라를 선택할 수 있다.

김 대표는 "AI 인프라는 GPU만의 경쟁이 아니라 '자본의 전쟁(War of Capital)'"이라며 "고객이 원하는 GPU 모델이 없으면 경쟁 자체가 성립하기 어렵다"고 강조했다.

W&B 고객 기반으로 韓 추론 시장 공략

코어위브가 한국에서 GPU 공급과 함께 힘을 싣는 분야는 AI 추론이다. AI 시장의 중심이 대규모 모델을 학습하는 단계에서 개발한 모델을 실제 서비스에 적용하는 단계로 확장되면서 추론용 컴퓨팅 수요가 빠르게 늘어날 것으로 보고 있다.

특히 지난해 인수한 AI 개발 플랫폼 기업 웨이츠앤바이어시스(Weights & Biases·W&B)를 활용해 기존 소프트웨어 고객과 코어위브의 GPU 인프라·추론 서비스를 연결하는 전략을 추진하고 있다.

W&B는 AI 모델 개발 과정에서 실험 결과를 추적하고 성능을 평가·관리하는 소프트웨어를 제공한다. 코어위브는 W&B를 자체 GPU 인프라와 결합해 AI 모델 개발과 학습부터 추론, 평가·관측까지 이어지는 사업 구조를 구축하고 있다.

국내에서도 파운데이션 모델을 개발하는 주요 AI 기업들이 W&B를 사용하고 있다는 게 김 대표의 설명이다. 모델 개발 단계에서 확보한 고객 접점을 추론과 GPU 인프라까지 확대할 수 있다는 점에서 코어위브의 한국 사업에서도 W&B가 중요한 역할을 맡는다.

김 대표는 "국내 주요 파운데이션 모델 개발 기업들이 이미 W&B를 사용하고 있다"며 "이들 기업이 모델 개발을 넘어 실제 추론 서비스를 확대하려는 만큼 코어위브의 GPU 인프라와 소프트웨어를 함께 제공할 기회가 많을 것으로 본다"고 밝혔다.

김현석 코어위브 한국·동남아시아 총괄대표 (사진=지디넷코리아 DB)

AI 에이전트와 피지컬 AI 확산도 추론 시장 성장을 촉진할 요인으로 꼽았다. 기존에는 모델을 학습하는 과정에 대규모 GPU가 집중적으로 사용됐다면 AI 서비스가 늘어날수록 실제 이용자의 요청을 처리하는 추론 단계에서 필요한 컴퓨팅 자원도 함께 증가하기 때문이다.

AI 에이전트는 서비스를 출시한 이후에도 답변 품질과 성능을 지속적으로 확인하고 개선해야 한다. 모델과 애플리케이션의 성능을 관측하고 평가하는 과정도 중요해지면서 코어위브의 GPU 인프라와 W&B 소프트웨어를 결합할 수 있는 영역이 넓어지는 셈이다.

코어위브는 서버리스 추론과 전용 추론 인프라 등을 제공하고 있다. 국내에서도 추론 서비스를 유통하거나 공동 사업을 추진할 수 있는 기업들과 협력 가능성을 검토하고 있다.

김 대표는 아직 국내 추론 생태계가 충분히 형성된 단계는 아니라고 평가했다. 추론 서비스를 이용하려는 기업과 이를 공급하려는 사업자는 늘고 있지만 GPU 인프라와 여러 AI 모델을 연결해 사용량에 따라 서비스를 제공하는 사업 구조는 이제 만들어지고 있다는 설명이다.

GPU 인프라 사업에서는 기존 IT 시장의 총판·리셀러 구조를 그대로 적용하기도 어렵다고 봤다. 대규모 GPU 계약은 장기간 공급과 사용량, 투자비 회수 등이 함께 고려돼야 해 최종 고객과 직접 계약하는 방식이 중요한 반면 추론 시장에서는 다양한 형태의 파트너 사업이 가능하다고 보고 있다.

김 대표는 "한국에는 추론 서비스를 이용하려는 기업도 많고 이를 공급하려는 기업들도 있지만 아직 생태계가 충분히 형성되지는 않았다"며 "현재 여러 국내 기업과 협력을 검토하고 있으며 앞으로 추론 시장을 중심으로 사업 기회를 확대해 나갈 계획"이라고 말했다.