국내 서버 시장 5조 원 돌파…GPU 서버가 성장 이끌어

한국IDC "엔비디아 GPU 중심 AI 인프라 확산"…서버 산업 판도 재편

지난해 국내 서버 시장이 5조 원을 돌파하며 전례 없는 성장세를 보였다. 기업들의 생성형 AI 도입 확대와 AI 인프라 수요가 폭발하면서 고성능 GPU 서버가 시장의 핵심 동력으로 부상한 결과다.

인터내셔날데이터코퍼레이션코리아(이하 한국IDC)는 '국내 서버 컴핏 보고서'를 통해 2024년 국내 서버 시장이 전년 대비 72.7% 성장한 5조1천425억원의 매출을 기록했다고 4일 밝혔다.

보고서에 따르면 이번 성장은 GPU 서버의 기여도가 가장 컸다. 고가의 8 GPU 서버 수요가 늘며, 2023년 전체 서버 시장의 26.2%였던 GPU 서버 비중이 45%까지 증가했다. 

2024년 국내 서버 시장 5조 1천425억원 매출 달성(이미지=한국IDC)

GPU 서버뿐 아니라 일반서버도 팬데믹 이후 공급망 안정화와 함께 기업들의 인프라 투자 재개로 전년 대비 29.6% 성장한 것으로 나타났다.

한국IDC는 특히 생성형 AI 확산이 GPU 서버 수요 폭증으로 이어졌다고 분석했다. 과거 CPU 기반 연산에 집중됐던 서버 인프라가 이제는 병렬 연산에 강한 GPU 중심으로 전환되고 있으며, 이 변화의 중심에는 엔비디아(NVIDIA)가 있다는 설명이다.

보고서는 "엔비디아는 하드웨어뿐 아니라 CUDA 및 AI 플랫폼 등 소프트웨어 생태계까지 갖추며 시장을 사실상 독점하고 있다"며 "국내 기업들은 이를 기반으로 AI 인프라를 설계하고 있으며, 이는 서버 산업 전반의 구조 재편을 야기하고 있다"고 분석했다.

x86 서버는 여전히 국내 서버 시장의 주류로, 2024년 기준 전체 시장의 90% 이상을 차지하고 있다. x86 서버 매출은 전년 대비 75.6% 증가한 4조 7,215억 원으로 집계됐다. 기술 발전에 따른 성능 향상과 가상화, 클라우드 확산이 주요 성장 배경으로 꼽힌다.

반면 논x86 서버 시장도 주목할 만한 흐름을 보였다. UNIX 기반 시스템은 감소 추세지만, 글로벌 하이퍼스케일러들의 ARM 서버 도입 확산으로 논x86 서버 시장도 전년 대비 45.7% 성장한 4,210억 원을 기록했다.

한국IDC는 "x86 서버는 경제성과 범용성을 무기로 주류 아키텍처로 자리 잡았지만, 금융·공공·국방 등 민감한 분야에서는 여전히 논x86 서버가 핵심 인프라로 작동하고 있다"며 "기술 리스크와 복잡한 마이그레이션 문제, 운영 노하우 등이 대체를 어렵게 만드는 요인"이라고 진단했다.

한국IDC 김민철 수석연구원은"노후 장비의 교체와 기술 지원, 시스템 안정성 확보는 전체 IT 환경의 신뢰성과 연속성을 위해 필수"라며 "AI는 미래 경쟁력 확보 수단이지만, 현재 업무의 안정적 수행은 기존 인프라에 달려 있다"고 말했다.

이어 "많은 기업이 AI와 생성형 AI 인프라 확충에 예산을 집중하고 있지만, 기존 IT 인프라의 관리와 투자가 병행돼야 한다"며 "AI 중심의 예산 편성과 함께 기존 시스템 점검, 교체, 유지보수에 대한 균형 잡힌 투자가 필요하다"고 덧붙였다.