KT, 필요한 만큼 GPU 확장하는 '하이퍼스케일 AI 컴퓨팅' 출시

AI 인프라 기업 '모레'와 협력 성과

KT(대표 구현모)가 클라우드 기반의 GPU 인프라 제공 서비스 ‘하이퍼스케일 AI 컴퓨팅’을 출시했다고 10일 밝혔다.

이는 지난 10월 밝힌 인공지능(AI) 인프라 솔루션 전문기업 ‘모레’와의 협력 결과다.

하이퍼스케일 AI 컴퓨팅은 국내 최초로 고비용의 GPU 인프라를 동적 할당 방식으로 제공하는 실 사용량 기반 종량제 서비스다. AI 서비스 전문기업 또는 AI 개발자 등은 GPU 자원을 원하는 시점에 원하는 만큼만 할당 받아 사용하고 이후엔 반납하면 된다.

KT의 하이퍼스케일 AI 컴퓨팅 서비스 확대 계획

실제 개발과정에서 GPU는 개발기간 전체에 필요하지 않고 데이터 분석, 모델학습 등에만 활용된다. 이 서비스를 이용하면 GPU를 필요한 기간에만 사용할 수 있어 개발비용을 대폭 절감할 수 있다.

AI 응용 서비스 개발을 위한 데이터 분석 및 AI 모델 개발에 대규모 GPU 인프라는 필수적이다. 그러나 GPU 시장은 특정 벤더의 독과점 이슈 등으로 비용이 높게 형성돼있어 인프라를 활용하고자 하는 기업에 부담으로 작용하고 있다.

AI 서비스 개발과 운용이 필요한 기업들은 자체적으로 자사의 전산실에 GPU 팜(컴퓨터 서버와 운영시설을 모여놓은 곳)을 구성하거나 클라우드 서비스 공급자(CSP)로부터 고정 할당 방식의 인프라 서비스를 이용해야만 했다. 고정할당 방식의 서비스를 이용하면 할당 GPU 이용료를 고정적으로 지불해 GPU를 사용하지 않는 기간에도 비용을 소요된다는 단점이 있다.

하이퍼스케일 AI 컴퓨팅은 대규모 GPU 자원 필요 시 원활한 확장을 지원할 수 있다. 물리적으로 한 개의 서버에서 구동할 수 있는 최대의 GPU 수량 이상의 GPU를 클러스터링해 연산에 활용할 수 있다. 특정 시점에 준비된 전체 GPU가 모두 활용돼 일시적으로 자원이 부족하더라도 요청들을 자동으로 대기시키고 순차적으로 처리해 서비스 안정성이 뛰어나다는 점도 큰 특징이다.

모델 프로그래밍 호환성도 갖췄다. 하이퍼스케일 AI 컴퓨팅은 멀티 GPU 환경 이용을 위해 기존 개발 소스를 재설계하지 않고 그대로 멀티 GPU 환경을 이용할 수 있다. 또한 개발 단계마다 필요한 자원을 연속적으로 확대 및 축소 가능하다. 할당된 자원을 변경하기 위해 필요했던 서비스 중단 없이 개발을 이어갈 수 있다.

KT는 모레와 이번 상품 출시에 이어 내년에는 초대규모 GPU 팜을 구축할 예정이며, 2023년에는 전용 AI 반도체 칩을 제작해 GPU 기술 국산화를 추진한다.

KT는 출시를 기념해 내년 2월까지 GPU 인프라를 무상제공하는 이벤트를 진행한다. 이용을 원하는 고객은 가상머신(VM) 이용 비용만 지불하면 된다.

윤동식 KT 클라우드·IDC사업추진실장은 “하이퍼스케일 AI 컴퓨팅 출시로 대한민국의 AI서비스 개발 시장과 문화 패러다임을 변화시킬 수 있을 것으로 기대된다”며 “앞으로도 AI 전문 기업들과의 협력을 강화해 대한민국 AI개발자들이 활발하게 활동할 수 있는 생태계를 구현하기 위해 노력하겠다”고 말했다.