레드햇, 'AI 3'로 기업 AI 상용화 정조준…'프로덕션의 벽' 넘는다

'프로덕션 AI' 시대 개막 선언…분산 추론 기술로 비용·복잡성 문제 동시 해결

레드햇이 기업의 인공지능(AI) 실험 단계를 끝내고 실제 사업 성과로 연결하는 프로덕션 워크로드 시장 공략에 본격 나섰다.

레드햇은 최신 AI 플랫폼 '레드햇 AI 3'를 출시했다고 15일 밝혔다. 이번 플랫폼은 '레드햇 AI 인퍼런스 서버', '레드햇 엔터프라이즈 리눅스 AI', '레드햇 오픈시프트 AI'의 최신 기술을 통합했다.

이번 출시는 AI 도입 기업 대다수가 겪는 '프로덕션의 벽'을 겨냥한다. 실제로 매사추세츠 공과대학교(MIT) 보고서에 따르면 약 95%의 조직이 대규모 AI 투자에도 불구하고 측정 가능한 재무 성과를 내지 못하고 있다. 레드햇은 새 플랫폼을 통해 개념증명(PoC) 단계에 머무는 AI 워크로드를 실제 운영 환경으로 손쉽게 전환하도록 지원한다.

(사진=레드햇)

플랫폼의 핵심은 학습에서 실행 단계로 넘어가는 '추론' 기능 강화에 있다. 특히 '레드햇 오픈시프트 AI 3.0'에 정식 포함된 '엘엘엠-디(llm-d)'는 거대언어모델(LLM)을 쿠버네티스 환경에서 효율적으로 실행하는 분산 추론 기술이다.

레드햇 AI 3는 개발자와 IT 팀의 협업을 강화하는 통합 환경을 제공한다. 주요 기능은 ▲서비스형 모델 (MaaS) ▲AI 허브 ▲생성형 AI 스튜디오 등으로 구성된다.

레드햇은 이번 플랫폼으로 차세대 AI 에이전트 시스템의 기반을 마련했다. 라마 스택 기반의 통합 응용 프로그램 인터페이스(API)를 도입하고 외부 도구와 모델 상호작용을 간소화하는 '모델 컨텍스트 프로토콜' 채택을 주도해 에이전트 개발을 가속화한다.

기존 '인스트럭트랩' 기능을 기반으로 한 새로운 모델 맞춤형 툴킷도 선보였다. 이 툴킷은 개발자가 자체 데이터를 활용해 더 정확하고 특화된 AI 결과를 얻도록 돕는다.

조 페르난데스 레드햇 AI 사업부 부사장 겸 총괄 매니저는 "기업이 AI를 실험 단계에서 프로덕션 단계로 확장하면서 복잡성 비용 제어 측면에서 새로운 문제에 직면하고 있다"며 "레드햇 AI 3를 통해 IT 팀이 어떤 인프라에서도 자신만의 방식으로 차세대 AI를 안정적으로 운영할 수 있도록 지원한다"고 밝혔다.