"25년 내공으로 냉각부터 관제까지"…KT클라우드 AIDC 가보니

D2C 액체냉각 상용 적용·운영 솔루션 자체 개발…2031년 신규 1GW 공급 뒷받침

지난달 30일 서울 양천구 KT클라우드 목동2데이터센터. 출입카드와 생체 인증을 거쳐 들어선 'AI 이노베이션 센터' 실증실에는 인공지능(AI) 연산용 고성능 GPU 서버와 액체냉각 설비가 자리하고 있었다.

서버 칩에 밀착된 냉각판에는 배관을 통해 냉각수가 공급돼 열을 식혔다. 자율주행 로봇은 서버랙 사이를 오가며 온도와 습도 등 환경 데이터를 수집했다. 같은 건물 통합관제실에서는 수도권 주요 데이터센터의 전력·냉방 설비와 네트워크 상태를 실시간으로 감시하고 있었다.

AI 이노베이션 센터는 차세대 AI데이터센터(AIDC)에 필요한 냉각·전력·네트워크 등 핵심 인프라 기술을 실증하는 공간이다. 현장에서 눈에 띈 점은 KT클라우드가 직접 개발한 기술을 곳곳에서 확인할 수 있었다. GPU 서버 냉각 성능을 검증하는 시험 장비부터 AI 기반 전력 제어와 운영 관제 솔루션까지 자체 기술로 확보하고 있었다.

AI 이노베이션 센터 AI 인프라랩 (사진=KT 클라우드)

KT클라우드는 AI 이노베이션 센터를 통해 25년간 데이터센터를 운영하며 쌓은 경험과 데이터를 기술 개발에 활용하고 있다. 이를 신규 AIDC 구축과 그룹 혁신 사업에 적용하는 한편 외부 기업에 제공하는 솔루션으로 사업화한다는 전략이다.

고밀도 GPU 열 잡는 액체냉각…자체 장비로 성능 검증

KT클라우드는 고밀도 AI 서버를 위한 직접 칩 냉각(D2C) 액체냉각 기술을 이미 상용 서비스에 적용하고 있다. 가산 AIDC에서 글로벌 하이퍼스케일러 고객에게 D2C 액체냉각 서비스를 제공 중이다.

D2C는 GPU 칩에 냉각판을 밀착시키고 그 안으로 냉각수를 흘려 열을 제거하는 방식이다. 냉각수 분배장치(CDU)에서 공급된 냉각수가 매니폴드를 거쳐 서버 내부 냉각판까지 순환한다. 기존 공랭식보다 냉각 효율이 높아 회사 측은 냉각 전력 소비를 20~30% 줄일 수 있다고 설명했다.

AI 이노베이션 센터에서 직접 칩 냉각(D2C) 액체냉각 기술을 소개 중이다 (사진=KT 클라우드)

KT클라우드는 냉각 시스템의 설계부터 유동 해석, 성능 검증까지 직접 수행한다. 냉각수의 유량과 압력, 온도 등을 점검하고 누수와 부식, 이물질 등 잠재적인 위험 요소를 사전에 확인해 신규 AIDC 설계에 반영한다. 서버를 절연성 냉각액에 담가 열을 제거하는 액침냉각 기술도 별도로 실증했다.

특히 냉각 시스템의 성능을 검증하기 위한 수냉식 부하기(로드뱅크)를 자체 개발했다. 고가의 GPU 서버를 시험용으로 사용하지 않고도 실제 서버와 유사한 발열과 냉각 조건을 구현하는 장비다.

서버형 부하기는 엔비디아 B200 서버의 발열 조건을 고려해 장비당 8kW, 42U 서버랙 기준 최대 64kW의 열 부하를 구현한다. 랙형 부하기는 GB200 NVL72급 초고밀도 서버랙을 대상으로 최대 140kW 수준의 열 부하를 재현한다.

자체 개발한 부하기는 단순히 열을 발생시키는 데 그치지 않고 실제 GPU 서버의 냉각 특성까지 고려했다. 냉각수 유량과 압력, 온도 등 운용 조건을 유사하게 구현해 실제 서버를 설치하기 전에 냉각 시스템의 안정성을 검증할 수 있다.

개발에 참여한 이원민 KT클라우드 매니저는 "단순히 열을 내고 식혀주는 장치는 쉽게 만들 수 있다"며 자체 개발한 부하기는 실제 GPU 서버의 특성과 냉각 조건을 고려해 제작했다고 설명했다.

KT클라우드는 자체 개발한 장비를 활용해 글로벌 고객사의 실제 사용 기준에 맞춘 부하 시험도 완료했다. 이를 통해 확보한 검증 역량을 차세대 GPU에 대응하는 신규 AIDC 설계와 구축에 활용할 계획이다.

운영 인력이 만든 관제 솔루션…쌓인 데이터로 장애 예측

운영 소프트웨어도 내부 인력이 직접 개발했다. 전력 설비를 실시간으로 분석해 장애 발생 시 복구 경로를 찾는 '패스파인더(Path Finder)'와 설비 데이터를 AI로 분석해 이상 징후와 고장을 예측하는 'DIMS 인사이트(DIMS Insight)'가 대표적이다.

방재원 KT클라우드 AIDC사업개발팀장은 "DIMS 같은 솔루션도 모두 저희가 자체적으로 개발한 것"이라며 "운영하시는 분들이 직접 개발한 것으로, 외부에서 솔루션을 구매한 것이 아니다"라고 말했다.

방재원 KT 클라우드 AIDC사업개발팀장 (사진=KT 클라우드)

이러한 자체 개발의 기반은 장기간 축적한 운영 데이터다. 정상 운영뿐 아니라 설비 이상과 장애, 복구 과정에서 발생한 데이터를 운영 플랫폼 'DIMS'에 축적하고 AI로 분석해 고장 가능성과 사전 정비가 필요한 지점을 파악한다.

현장 점검에서도 데이터 수집 범위를 넓히고 있다. 지난해 자율주행 점검 로봇(AMR)을 활용해 서버실 점검과 로봇 관제 기술을 실증한 데 이어 올해는 보스턴다이내믹스의 4족 보행 로봇 '스팟(Spot)'을 활용한 2단계 실증을 추진하고 있다.

로봇이 수집한 온도와 습도, 열화상 등 환경 정보도 운영 플랫폼과 연계해 분석하는 방향으로 기술을 고도화할 계획이다.

KT클라우드는 이러한 운영 기술을 자체 데이터센터뿐 아니라 외부 고객에게 제공하는 솔루션으로 발전시키려 한다. 운영 인력이 축적한 경험과 데이터를 AI로 분석해 표준화된 서비스로 제공하는 방식이다.

서울 첫 면진 적용 데이터센터…신규 1GW 공급에 기술 활용

KT클라우드의 운영 경험은 건물 설계와 주요 설비에도 반영돼 있다.

목동2센터는 서울 지역 데이터센터 가운데 처음으로 면진 설계를 적용했다는 게 회사 측 설명이다. 건물 2.5층에 84개의 면진 장치를 설치해 지진 발생 시 상부 구조물로 전달되는 흔들림을 줄이도록 설계했다. 주요 전력·냉각 설비는 그 위인 3층에 배치했다.

전력 공급 체계도 이중화했다. 서로 다른 변전소에서 전력을 공급받고 수배전실을 공간적으로 분리했다. 외부 전력 공급이 중단되면 비상 발전기 12대가 가동하며, 현재 부하 기준 약 48시간 동안 전력을 공급할 수 있다.

신규 AIDC 설계에도 이러한 운영 경험을 활용한다. 데이터센터 운영 인력이 전산유체역학(CFD) 분석을 직접 수행해 서버실의 공기 흐름과 온도 분포를 검증하고 있으며, 분석 기간도 기존보다 약 30% 단축했다고 설명했다.

KT클라우드가 기술 내재화와 신규 구축에 속도를 내는 배경에는 증가하는 AI 인프라 수요가 있다. 현재 운영 중인 약 152MW 규모의 데이터센터는 대부분의 용량이 판매돼 대규모 GPU 고객을 추가로 수용하기 어려운 상황이다.

박재우 KT 클라우드 DC사업담당 (사진=KT 클라우드)

이에 2031년까지 기존 시설과 별도로 1기가와트(GW) 이상의 데이터센터 용량을 추가 확보할 계획이다. 2027년 부천을 시작으로 군산·청라·안산 등에서 신규 AIDC 사업을 추진하고 있다.

새로 구축하는 데이터센터는 고밀도 GPU 서버에 대응할 수 있도록 바닥 하중과 전력·냉각 설계를 강화한다. LS일렉트릭과는 모듈형 데이터센터의 전력 인프라를 공동 연구하고, 버티브와는 전력·액체냉각·모듈형 인프라의 설계 최적화를 추진한다.

박재우 KT클라우드 DC사업담당은 KT그룹의 기가와트 공급 목표에 맞춰 실수요를 기반으로 데이터센터를 확대하고, 시장이 요구하는 공급 속도와 물량에 최대한 대응하겠다고 밝혔다.

방재원 팀장은 "운영과 관련된 다양한 경험을 데이터화하고 분석해 AI로 정리한 것을 하나의 상품으로 만들어, 데이터센터를 구축하고 운영하려는 다른 고객들에게 서비스로 제공할 수 있다고 본다"고 말했다.