[현장] "AI 도입 빠른 한국, 확장은 병목…GPU보다 운영 역량이 승부처"

STT GDC, AI 인프라 현황·전망 연구 발표…전문 인력·운영 역량 부족 부상

한국 기업들이 인공지능(AI) 도입과 초기 성과 창출 단계는 빠르게 넘어섰지만, 조직 전반으로 확장하는 과정에선 여전히 구조적 한계에 직면한 것으로 나타났다. 단순 그래픽처리장치(GPU) 확보를 넘어 전문 인력과 운영 역량, 데이터 주권·규제 대응, 전력·네트워크·냉각 등 AI 인프라 전반을 통합적으로 설계하는 능력이 향후 경쟁력을 좌우할 것이란 분석이 나온다.

STT GDC 코리아는 27일 서울 여의도 FKI타워 본사에서 'AI 인프라 개발 현황 및 전망' 미디어 세션을 열고 이같은 연구 결과를 발표했다.

이번 연구는 STT GDC 의뢰로 시장조사업체 에코시스템이 수행했다. 한국을 포함해 일본·싱가포르·인도·인도네시아·말레이시아·필리핀·태국·베트남 등 아시아 9개국에서 제조·금융·공공·통신 등 10개 산업군 종사자 644명을 대상으로 진행됐다. 조사에선 ▲전략 ▲조직 준비도 ▲데이터 거버넌스 ▲현재 인프라 수준 ▲미래 확장 전략 등 5개 영역을 기준으로 기업 AI 인프라 성숙도를 평가했다.

허철회 STT GDC 코리아 대표는 "AI 확산은 이미 시작됐지만 조직 전반에 실질적으로 확장된 사례는 아직 제한적"이라며 "이 격차는 기술을 넘어 데이터를 어디에서 처리하고 누가 통제권을 갖느냐와 연결된 문제"라고 말했다. 그러면서 "이러한 AI 인프라 역량은 기업 경쟁력과 국가 단위 디지털 주권까지 좌우하는 핵심 요소"라고 덧붙였다.

허철회 STT GDC 코리아 대표 (사진=지디넷코리아)

STT GDC는 싱가포르에 본사를 둔 글로벌 데이터센터 전문기업이다. 현재 전 세계 100개 이상 데이터센터를 운영 중이며 글로벌 하이퍼스케일러와 엔터프라이즈 고객을 대상으로 코로케이션(상면 임대) 서비스를 제공하고 있다. 회사는 다음 달 서울 금천구 가산동에 국내 첫 AI 특화 데이터센터 'STT 서울1'을 개소하며 한국 시장 공략에 본격 나설 계획이다.

이날 발표된 보고서에 따르면 한국은 아시아 내 대표적인 AI 선도 시장으로 분류됐다. 국내 응답 기업 가운데 67%는 AI를 실제 운영 환경에 적용하는 '빌더(Builder)' 단계로 나타났으며 조직 전반에 AI를 통합한 '인테그레이터(Integrator)' 단계는 30%를 기록했다. 반면 AI를 핵심 경쟁력으로 완전히 내재화한 '리더(Leader)' 단계는 2%에 그쳤다.

이는 한국이 이미 AI 파일럿과 초기 도입 단계를 넘어 실질적인 투자와 운영 단계로 진입했지만, 시장 리더십 단계로 넘어가기 위한 확장 역량은 아직 제한적인 것으로 풀이된다. 실제 국내 응답자의 75%는 AI 프로젝트가 예상 이상의 투자수익률(ROI) 등 가치를 창출했다고 답했다. 이는 아시아 평균인 34%를 크게 웃도는 수준이다.

이에 대해 허 대표는 "한국은 이미 AI 도입의 가치를 입증하는 단계는 지나왔다"며 "이제 중요한 것은 이미 구축한 AI 환경을 얼마나 빠르고 안정적으로 확장하고 최적화할 수 있느냐"라고 설명했다. 이어 "경쟁력의 중심은 단순 장비 확보에서 운영 전문성과 최적화 역량으로 이동하고 있다"고 강조했다.

한국 기업 AI 준비도 결과 (사진=STT GDC)

AI 확산 과정에서 나타나는 핵심 병목으로는 전문 인력 부족과 운영 복잡성이 지목됐다. 국내 응답자의 52%는 복잡한 AI 인프라를 운영·최적화할 내부 전문성이 부족하다고 답했으며 48%는 초기 구축 및 운영 비용 부담을 주요 과제로 꼽았다. 또 52%는 데이터 주권과 규제 준수 이슈를 AI 확장의 제약 요인으로 지적했다.

특히 보고서는 많은 기업이 AI 인프라를 단순 GPU 확보 문제로 접근하고 있지만, 실제로는 스토리지·네트워크·전력·냉각·랙 설계 등 데이터센터 전반의 최적화 역량이 중요해지고 있다고 분석했다. 아시아 전체 응답 기업의 82%는 네트워크 병목이나 지연 문제를 경험하고 있었으며 AI 워크로드를 안정적으로 지원할 수 있는 고성능 저지연 네트워크를 갖춘 조직은 7%에 불과했다.

허 대표는 "GPU만 많다고 바로 AI 경쟁력이 만들어지는 것은 아니다"라며 "워크로드에 맞는 환경과 이를 안정적으로 운영할 수 있는 시스템 설계가 중요하다"고 짚었다. 또 그는 "최근 AI 서버를 담는 랙 하중이 과거보다 두세 배 이상 높아지고 있어 전력과 냉각, 구조 설계까지 모두 달라지고 있다"고 설명했다.

STT GDC는 향후 AI 인프라 시장 경쟁력이 단순 구축 규모보다 운영 전략에서 갈릴 것으로 전망했다. 특히 AI 인프라 전문 기업과의 전략적 파트너십 수요가 확대될 것으로 내다봤다. 보고서 역시 AI 성숙도가 높은 조직일수록 인프라를 직접 보유하기보다 전문 사업자와 협력해 운영 효율성과 확장성을 확보하는 경향이 강하다고 분석했다.

STT GDC는 이런 흐름에 맞춰 한국 시장에서도 AI 특화 데이터센터와 운영 서비스를 확대한다는 목표다. 회사는 향후 지방을 비롯한 국내 추가 데이터센터 부지 확보와 AI 인프라 운영 서비스 확대를 검토 중이다.

허 대표는 "한국 기업들이 다음 단계로 나아가기 위해선 운영 전문성과 규제 환경을 고려한 인프라 전략, 장기적인 성능과 지속가능성을 반영한 의사결정이 중요해질 것"이라며 "국내 AI 인프라 수요 확대에 맞춰 추가 데이터센터 부지 확보와 운영 확장을 지속 검토할 계획"이라고 밝혔다.