'AI 국가대표' 뒷받침하는 NHN클라우드…'팩토리X 서울' 가동

B200 GPU 7656장 구축·독파모 4개 정예팀 지원…민간 AI 인프라 사업도 확대

NHN클라우드가 대형 그래픽처리장치(GPU) 인프라를 바탕으로 국내 산·학·연 인공지능(AI) 생태계 활성화와 정부의 '독자 AI 파운데이션 모델(독파모)' 개발을 뒷받침한다.

서울 도심에 구축한 AI 데이터센터 'NHN 팩토리X 서울'을 기반으로 4개 독파모 정예팀에 고성능 컴퓨팅 자원을 공급하는 한편, 국가 AI 데이터센터 운영 경험을 토대로 자체 AI 인프라 사업 확대에도 속도를 낸다는 목표다.

이일준 NHN클라우드 기술사업부장은 지난 6일 서울 영등포구 팩토리X 서울 데이터센터 투어에서 "현재 단일 데이터센터 안에 구축된 GPU 자원으로는 이곳이 국내 최대 규모"라며 "대규모 수랭식 냉각 기반으로 자원을 안정적으로 운영 중"이라고 밝혔다.

이일준 NHN클라우드 기술사업부장 (사진=NHN클라우드)

팩토리X 서울은 과학기술정보통신부와 정보통신산업진흥원(NIPA)이 지난해 추진한 'AI 컴퓨팅자원 활용기반 강화 사업'을 통해 조성된 AI 인프라로 올해 4월 개소했다. NHN클라우드는 글로벌 자산운용사 액티스의 양평 데이터센터 일부를 임차해 GPU 인프라를 구축했다.

정부 사업을 통해 엔비디아 엔비디아 AI 가속기 B200 GPU 총 7656장을 구축했으며 향후 5년간 해당 인프라 운영을 맡는다.

이 가운데 정부 AI 컴퓨팅 자원은 팩토리X 서울 3~5층에서 운영된다. 3~4층에는 B200 GPU 4080장을 통합 단일 클러스터로 묶은 대규모 연산 환경이 구축됐다. 대규모 AI 모델을 학습할 때 수천 개의 GPU가 하나의 시스템처럼 동시에 연산할 수 있도록 구성한 것이 특징이다.

데이터센터 6층에선 NHN클라우드 자체 AI 클라우드 서비스와 GPU 인프라를 운영 중이다.

정부가 진행 중인 독파모 프로젝트 선정 4개 정예팀도 조만간 이곳의 GPU 자원을 활용할 예정이다. 독파모에 공급되는 자원은 팩토리X 서울 4~5층을 중심으로 배정될 예정으로, NHN클라우드는 정부가 정한 자원 배분 계획에 따라 인프라 운영과 공급을 지원한다. 구체적인 팀별 GPU 배정 규모는 공개되지 않았다.

이 사업부장은 "정부가 산업체와 학교, 연구소 등에 자원을 배정하면 우리는 이에 맞춰 GPU를 공급·운영하는 역할"며 "실제 자원이 어떤 연구나 업무에 사용되는지는 이용 기관이 결정하고 우리는 안정적으로 자원을 사용할 수 있도록 운영을 지원한다"고 설명했다.

독파모에 투입되는 GPU 역시 특정 팀이 계속 점유하는 구조는 아니다. 정부가 이용 기간을 정해 자원을 배분하고 해당 기간이 끝나면 다시 다른 기업이나 대학, 연구기관 등에 공급하는 방식이다. 기존 산·학·연에 공급되는 GPU 자원 역시 일정 기간을 정해 배정되고 있다.

팩토리X 서울 내부 전경 (사진=NHN클라우드)

대규모 GPU를 하나로 묶는 클러스터 구축 역량도 팩토리X 서울의 핵심이다. NHN클라우드는 3~4층에 구축한 4080장의 B200 GPU를 510개 노드로 연결해 하나의 클러스터를 구성했다. 회사는 해당 클러스터를 대상으로 고성능 컴퓨팅 성능 측정인 HPL 테스트를 진행했으며 이를 기반으로 글로벌 슈퍼컴퓨터 성능 순위 '톱500'에서도 20위에 등재됐다.

NHN클라우드는 앞서 광주 국가 AI 데이터센터도 구축해 H100·A100 등 약 1000장의 GPU를 기반으로 AI 연구개발을 지원해 왔다. 광주 센터에서 확보한 GPU 운영 경험과 자사 판교 데이터센터의 고밀도 인프라 설계 경험을 팩토리X 서울 구축에 반영했다.

정부 프로젝트를 넘어 민간 영역으로도 사업을 확대 중이다. 올해 크래프톤을 대상으로 엔비디아 블랙웰 울트라 1000개 규모 인프라를 공급하며 현재 판교 데이터센터를 기반으로 서비스를 제공 중이다. 향후 추가 GPU 인프라 구축에도 나설 계획이다.

특히 팩토리X 서울에는 대규모 B200 운영을 위해 수랭식 냉각 시스템이 적용됐다. 고집적 GPU에서 발생하는 열을 냉각수를 이용해 직접 처리하는 방식으로, 기존 공랭식 대비 냉각에 필요한 에너지를 줄이면서 GPU를 안정적인 온도로 유지할 수 있다. NHN클라우드에 따르면 수랭식 시스템 도입으로 공랭식 대비 약 15~20%의 에너지 절감 효과를 확보했다.

이 사업부장은 "기존 광주 센터는 100% 공랭 방식인데 이를 운영한 경험과 이곳에서 수랭식을 몇 달간 운영한 경험을 비교하면 수랭식에서 장비 장애가 발생하는 비율이 매우 적다"며 "운영 사업자 입장에선 비용도 고려해야 하지만 고객이 사용하는 서비스의 장애를 줄이는 것이 더 중요하다"고 말했다.

최근 AI 컴퓨팅 수요가 빠르게 늘면서 NHN클라우드는 추가 인프라 확보 방안도 검토하고 있다. 팩토리X 서울에서 회사에 배정된 자체 활용 자원은 현재 대부분 고객에게 공급된 상태다. 광주 국가 AI 데이터센터 역시 사실상 모두 가동되고 있어 외부 데이터센터 활용과 자체 데이터센터 투자 가능성을 함께 살펴보는 상황이다. 다만 구체적인 투자 규모와 시기는 아직 정해지지 않았다.

이 사업부장은 "AI 인프라 수요는 앞으로도 늘어날 것으로 보고 있다"며 "현재 자체 자원의 장기계약을 추진하는 등 보유한 GPU 인프라를 안정적으로 운영하고 지속적인 수요에 대응할 계획"이라고 밝혔다.

이어 "외부에서 활용할 수 있는 데이터센터를 계속 알아보는 한편 자체적인 데이터센터 투자도 검토 중"이라고 덧붙였다.