레드햇-엔비디아, AI 팩토리 출시…"안정적 대규모 개발"

'레드햇 AI 팩토리 위드 엔비디아' 공개…대규모 AI 도입 안정성↑

레드햇이 엔비디아와 기업용 통합 인공지능(AI) 플랫폼을 개발해 사업 확장에 나섰다. 

레드햇은 엔비디아 손잡고 '레드햇 AI 팩토리 위드 엔비디아'를 출시했다고 25일 밝혔다. 이 플랫폼은 레드햇 AI 엔터프라이즈와 엔비디아 AI 엔터프라이즈를 결합한 엔드투엔드 AI 솔루션이다. 대규모 AI 도입을 추진하는 기업 환경에 최적화됐다.

이 플랫폼은 엔비디아 하드웨어(HW) 아키텍처에 대한 0일 차 지원을 제공한다. 엔비디아 그래픽처리장치(GPU) 기반 가속 컴퓨팅 인프라 위에서 모델 성능을 극대화하는 소프트웨어(SW) 스택을 제공한다.

레드햇 공식 로고. (사진=레드햇)

IDC에 따르면 에이전틱 AI 확산으로 2029년까지 엔터프라이즈 AI 지출은 1조 달러를 넘어설 전망이다. 이에 기업은 고밀도 에이전틱 워크플로 중심 전략으로 전환하고 있으며 AI 추론과 인프라 수요도 급증하는 상황이다.

레드햇 AI 팩토리 위드 엔비디아는 이런 변화에 맞춰 IT 운영팀이 기존 인프라와 AI 스택을 동시에 관리할 수 있도록 설계됐다. 온프레미스, 클라우드, 엣지 전반에서 배포가 가능하며 고확장성과 보안을 전면에 내세웠다.

플랫폼은 사전 구성된 IBM 그래니트 제품군과 엔비디아 네모트론, 엔비디아 코스모스 오픈 모델을 엔비디아 NIM 마이크로서비스 형태로 제공한다. 또 엔비디아 네모를 활용해 기업 데이터에 맞게 모델을 튜닝해 시간과 비용을 줄일 수 있다.

성능 측면에서는 가상거대언어모델(vLLM) 기반 레드햇 AI 추론 기능과 엔비디아 '텐서RT-LLM', 엔비디아 '다이나모'를 결합했다. 이를 통해 GPU 활용도를 높이고 엄격한 AI 서비스 수준 목표를 충족하며 총소유비용 절감을 돕는다.

플랫폼에 지능형 GPU 오케스트레이션 기능도 포함됐다. 자동 체크포인팅으로 장시간 작업을 보호하고 동적 환경에서도 예측 가능한 비용 구조 유지를 지원한다. 

보안은 레드햇 엔터프라이즈 리눅스 기반으로 강화됐다. 엔비디아 도카 마이크로서비스는 제로 트러스트 아키텍처를 구현해 AI 런타임 보안을 지원한다.

플랫폼은 시스코와 델테크놀로지스, 레노버, 슈퍼마이크로 등 주요 시스템 제조업체의 AI 팩토리 인프라에서 지원된다. 이를 통해 일반 기업 워크로드와 동일한 수준의 운영 엄격성과 예측 가능성을 확보하도록 돕는다.

크리스 라이트 레드햇 글로벌 엔지니어링 부문 수석 부사장 겸 최고기술책임자(CTO)는 "우리는 새 플랫폼으로 대규모 AI 배포와 신속한 프로덕션 전환을 가속하고 있다"며 "고객은 안정적이고 수준 높은 기술을 통해 AI 전략을 주도하고 확장할 수 있을 것"이라고 말했다.