레드햇이 인공지능(AI)에 특화된 자사 운영체제를 업데이트 해 기업의 기술 개발과 배포를 보다 효율적으로 지원할 수 있게 됐다.
레드햇은 생성 AI 파운데이션 모델 플랫폼인 '레드햇 엔터프라이즈 리눅스(RHEL AI)' 1.2 버전을 출시했다고 23일 밝혔다. 이 모델은 암드(AMD) 인스팅트 가속기와 레노버 씽크시스템 서버를 비롯한 다양한 하드웨어와의 호환성이 강화됐다. 이로써 기업들이 AI 모델을 효율적으로 미세 조정하고 클라우드 환경에서 쉽게 활용할 수 있게 됐다.
'RHEL AI 1.2'에는 기존 1.1 버전에 없던 다양한 기능이 추가됐다. 특히 기업이 자체 민감 데이터를 사용해 LLM을 미세 조정하고 배포하는 과정에서 더 높은 성능을 보일 수 있도록 설계됐으며 체크포인트 기능을 통해 긴 훈련 과정을 중간에 저장하고 재개하도록 해 시간과 자원을 절약할 수 있게 한다.
또 AMD '인스팅트 MI300x'와 'MI210' 그래픽처리장치(GPU)를 지원해 기업들이 훈련과 추론 작업을 보다 신속하게 처리할 수 있게 했다. 동시에 파이토치의 고급 분산학습 기법인 'FSDP' 기능을 활용해 다수의 가속기를 동시에 사용하도록 함으로써 훈련 시간을 단축한다.
관련기사
- 삼성전자, 업계 최초 레드햇 인증 'CXL 인프라' 구축2024.06.25
- 레드햇-뉴타닉스, 클라우드 네이티브 워크로드 협력 확대2024.05.27
- 레드햇-퀄컴, SW정의차량 테스트·배포 플랫폼 제공2024.05.13
- 레드햇, RHEL용 이미지 모드 출시2024.05.10
이번 버전은 애저 및 구글 클라우드 플랫폼에서의 가용성도 기술 프리뷰로 제공해 클라우드 기반 AI 개발을 용이하게 만들었다. 이로써 다양한 클라우드 인프라에서의 AI 모델 운영 유연성이 높아졌다.
레드햇 관계자는 "'RHEL AI' 1.2는 기업들이 자체 데이터로 AI 모델을 보다 쉽게 개발하고 배포할 수 있도록 돕기 위한 중요한 도약"이라며 "다양한 하드웨어와 클라우드 환경에서의 확장성은 AI 프로젝트의 성공에 중요한 역할을 할 것"이라고 밝혔다.