레드햇, AI 포트폴리오 업데이트…비용 절감·보안 강화

IBM 클라우드 기반 인스트럭트랩 출시 예정…데이터 통제권 높인다

레드햇이 기업의 생성형 인공지능(AI) 도입을 확대하기 위해 AI 제품군을 전면 업데이트했다. 

레드햇은 하이브리드 클라우드 전반에 AI 솔루션을 개발·배포할 수 있는 '레드햇 AI' 최신 버전을 내놨다고 27일 밝혔다. 레드햇 AI는 오픈시프트 AI, RHEL AI, 인스트럭트랩 등으로 구성된 엔터프라이즈 AI 포트폴리오다.

레드햇 오픈시프트 AI는 머신러닝과 거대언어모델(LLM) 운영을 통합 관리하는 플랫폼이다. 모델 파이프라인 구축부터 모니터링, 거버넌스까지 지원한다. 최신 버전인 2.18은 그래픽처리장치(GPU) 기반 분산 서빙과 모델 미세 조정, AI 가드레일, 성능 평가 기능을 추가해 기업의 생성형 AI 운영 부담을 줄였다.

레드햇 공식 로고 (사진=레드햇)

RHEL AI 1.4는 그래니트 3.1 8B 모델과 그래픽 사용자 인터페이스(GUI) 기반 지식 추가 도구, DK-벤치(bench) 비교 기능 등을 통해 온프레미스·클라우드 전반에서 일관된 모델 개발과 테스트를 지원한다. 서버 이미지로 제공돼 다양한 환경에 쉽게 배포할 수 있도록 설계됐다.

레드햇 AI 인스트럭트랩은 IBM 클라우드에서 서비스 형태로 제공될 예정이다. 기업은 복잡성을 줄이면서도 보안성과 정확성을 확보한 모델을 운영할 수 있으며 자사 요구에 맞는 LLM 미세 조정을 간소화할 수 있다.

레드햇은 고객 대상 무상 AI 교육 프로그램도 운영 중이다. 해당 과정은 비즈니스 운영에 도움 되는 AI 활용법과 레드햇 솔루션에서의 적용 방안으로 구성됐다. 

레드햇 조 페르난데스 AI 사업부 부사장은 "레드햇 AI는 기업이 고유 데이터를 기반으로 효율적인 특수 목적 모델을 학습해 온프레미스와 클라우드, 엣지 전반에서 유연한 추론을 할 수 있도록 지원한다"며 "생성형 AI를 대규모로 운영하는 데 따른 비용과 복잡성 문제를 해결할 수 있다"고 설명했다.