[GPU 200% 활용법] GPU 26만장 확보한 정부, 다음은 '운영 효율'…GRIM-GPU 기술 주목

이노그리드, GPU 효율 극대화 기술 ‘GRIM-GPU’ R&D 총괄…2028년 원천기술 확보 나서

정부가 그래픽처리장치(GPU) 26만장을 신규 확보하면서 인공지능(AI) 인프라의 방향성이 'GPU 운영 효율'로 옮겨가고 있다.

대규모 예산을 들여 GPU를 확보한 만큼 이제 확보한 자원을 다양한 업무 환경에 맞춰 얼마나 유연하게 실제 활용률을 끌어올릴 수 있느냐가 새로운 경쟁력으로 떠오르는 모습이다.

이런 흐름 속에서 과학기술정보통신부와 정보통신기획평가원(IITP)이 추진하는 GPU 공유·재구성 기술 개발 과제 'GRIM-GPU(GPU 재구성 및 간섭 최소화 GPU 공유)' 기술이 주목받고 있다.

데이터센터 (제공=클립아트코리아)

19일 관련 업계에 따르면 GRIM-GPU 과제 주관기업으로 이노그리드가 선정돼 산학연 컨소시엄을 이끌며 연구개발을 진행 중이다.

GPU 확보 다음은 운영 효율...유연한 자원 분할 지원하는 GRIM-GPU

GRIM-GPU는 여러 작업에서 GPU 하나를 함께 사용할 때 발생하는 성능 간섭을 최소화하면서 GPU 자원을 보다 유연하게 분할·재구성해 배분할 수 있도록 하는 GPU 공유 기술이다.

이 기술이 주목받는 이유는 국가 AI 인프라 정책 방향성과 맞닿아 있기 때문이다. 그동안 대규모 AI 구동을 위한 GPU 확보에 집중해왔다.

정부는 아시아태평양경제협력체(APEC) 계기로 GPU 26만장을 신규 확보하며 그동안 국내 AI 연구·산업 확대를 가로막던 컴퓨팅 인프라 병목을 상당 부분 해소했다는 평가를 받는다. 여기에 정부와 클라우드 서비스 기업(CSP) 3사가 참여하는 실무협의체를 통해 1조4천억원 규모 GPU 확보 사업도 본격화된 상태다.

하지만 GPU를 많이 확보하는 것과 GPU를 효율적으로 굴리는 것은 다른 문제다. 현재 시장의 GPU 서비스는 대부분 GPU를 특정 사용자나 작업에 통째로 할당하는 패스스루 방식에 머물러 있다. 구조가 단순하고 성능 예측이 쉽다는 장점은 있지만 고가 장비를 여러 작업이 나눠 쓰기 어렵고 워크로드가 바뀔 때마다 자원을 다시 구성하는 데 수일이 걸린다는 한계가 있다.

특히 공공·엔터프라이즈 환경은 가상환경(VM)과 컨테이너, 온프레미스 등 다양한 작업 환경이 산재하고 어떤 작업은 대규모 자원을 장시간 점유하고 어떤 작업은 일부 자원만 짧게 필요로 하는 등  업무 특성이 다양하다. 이런 수요 편차에 맞춰 GPU를 얼마나 유연하게 배분하고 운영하느냐에 따라 실제 활용도가 크게 달라진다.

그래서 GRIM-GPU은 GPU를 나누는 데 그치지 않고, 공유 과정에서 발생하는 간섭을 예측하고 줄이는 기술까지 함께 지원한다. 여기에 GPU 상태를 실시간에 가깝게 파악할 수 있는 경량 모니터링과 운영 관리 체계까지 더해 효율성을 극대화한다는 방침이다.

GRIM-GPU, VM·컨테이너 혼재 환경부터 간섭 제어까지

이노그리드는 이 과제의 주관기업을 맡아 2028년까지 산학연 컨소시엄을 이끈다. 단순히 특정 기업의 기술 개발 프로젝트가 아니라, 정부가 국책 R&D로 지정해 국내 여러 기관이 함께 참여하는 원천기술 확보 사업이다.

이노그리드는 GRIM-GPU 구현을 위해 기술 개발의 초점을 크게 세 갈래로 두고 있다. VM과 컨테이너가 혼재된 환경에서도 GPU 자원을 유연하게 분할·재구성할 수 있는 구조를 마련하는 데 집중하고 있다. 

실제 클라우드 현장에서는 단일 환경보다 다양한 워크로드와 운영 방식이 혼재하는 경우가 많은 만큼, 특정 환경에 한정되지 않는 범용성을 확보하겠다는 취지다.

동시에 GPU 공유 과정에서 발생할 수 있는 성능 간섭을 줄이는 기술 개발에도 힘을 싣고 있다. 여러 작업이 하나의 GPU를 함께 사용할 경우 처리량 저하나 지연시간 증가 같은 문제가 발생할 수 있는 만큼, 자원 분배를 넘어 간섭을 예측·완화할 수 있는 운영 기술까지 함께 확보하겠다는 것이다.

운영 단계에서의 가시성을 높이기 위한 경량 모니터링 체계 구축도 주요 과제다. GPU 상태와 자원 사용 현황, 이상 징후를 실시간에 가깝게 파악할 수 있어야 실제 서비스 환경에서 안정적인 운영이 가능하기 때문이다. 이노그리드는 이를 통해 단순한 연구용 기술이 아니라 공공·엔터프라이즈 환경에 적용 가능한 실질적 운영 기술로 고도화하는 데 무게를 두고 있다.

향후 계획도 명확하다. 초기에는 핵심 기능 구현과 성능 검증에 집중하고, 이후에는 실제 클라우드 환경에서 적용 가능한 수준으로 기술 완성도를 높인다는 구상이다. 여기에 산학연 협력을 바탕으로 기술 검증 범위를 넓히고, 단계적으로 오픈소스 공개를 추진해 생태계 확산 기반도 마련할 방침이다.

김명진 이노그리드 대표이사는 "AI 인프라 경쟁은 이제 GPU를 얼마나 확보하느냐를 넘어, 확보한 자원을 얼마나 효율적이고 안정적으로 운영하느냐가 핵심이 되고 있다"며 "GRIM-GPU 과제는 고가의 GPU 자원을 보다 유연하게 활용하고, AI 서비스 확산에 필요한 운영 효율성을 높이기 위한 중요한 연구개발 과제"라고 설명했다.

이어 "이노그리드는 클라우드 컴퓨팅 및 AI 인프라 전문기업으로서 국가 AI 인프라 운영 기술 고도화에 기여하고, 향후 서비스형 GPU*GPUaaS)·AI CMP 등 AI 인프라 기술 스택과 연계해 현장에서 활용 가능한 성과로 이어질 수 있도록 책임감 있게 추진하겠다"고 포부를 밝혔다.