레드햇-엔비디아, AI 에이전트 보안·추론·인프라 협력 확대

오픈셸 에이전트 실행 환경 공동 개발…행동 범위 제한·운영 상황 파악

레드햇이 엔비디아와 손잡고 자율형 인공지능(AI) 에이전트 도입을 위한 보안과 운영 기반을 강화한다. 

레드햇은 '레드햇 AI 팩토리 위드 엔비디아'를 기반으로 에이전트 보안과 모델 배포를 위한 설계를 엔비디아와 추진한다고 22일 밝혔다. 엔비디아 차세대 인프라 '베라 루빈'도 출시 당일부터 지원한다.

핵심은 에이전트가 작동하는 환경에서 안전성과 통제력을 확보한다는 점이다. 두 기업은 에이전트를 격리된 환경에서 실행하는 오픈소스 기술 '오픈셸' 기반으로 기업용 표준 설계인 '오픈셸 레퍼런스 아키텍처'를 개발하고 있다.

레드햇이 엔비디아와 손잡고 자율형 인공지능(AI) 에이전트 도입을 위한 보안과 운영 기반을 강화한다. (사진=레드햇)

이 설계는 에이전트 행동 범위를 제한하는 안전장치와 실행 중 안전성을 확보하는 기능을 제공한다. 운영자가 에이전트 작동 상황을 파악할 수 있도록 지원하는 것도 목표다.

레드햇은 이를 '레드햇 AI'와 '레드햇 AI 팩토리 위드 엔비디아'의 기본 기능으로 통합하기 위해 엔비디아·오픈소스 커뮤니티와 협력하고 있다. 기업이 에이전트 보안을 공통 운영 원칙으로 적용하도록 지원할 계획이다.

레드햇은 AI 모델 접근 권한 관리와 추론 성능을 개선하는 공동 설계도 마련했다. 모델 사용 요청을 관리하는 AI 게이트웨이와 고성능 추론 기술을 엔비디아의 모델 실행·그래픽처리장치(GPU) 운영 기술에 결합했다.

이를 통해 기업 사용자는 필요한 모델을 직접 탐색하고 이용할 수 있다. 운영자는 사용자별 접근 권한과 요청 속도 제한을 설정하고 사용 권한과 할당량을 관리할 수 있다.

모델 접근 관리와 실제 실행을 분리한 것도 특징이다. 두 기업은 이를 통해 사내 인프라와 클라우드가 혼합된 환경에서 처리 성능을 확보하면서 운영 통제와 비용 배분 기능을 유지하도록 설계했다.

레드햇은 최신 모델 지원도 확대한다. '네모트론 3.5 슈퍼 브이엘' 등을 지원하고 모델 연산 정밀도를 조정하는 양자화 기술을 활용해 정확도를 유지하면서 추론 지연을 줄였다.

하드웨어 분야에서는 베라 루빈 출시 시점에 맞춰 운영체제 지원과 플랫폼 호환성을 제공한다. '엔비디아용 레드햇 엔터프라이즈 리눅스'는 엔비디아 '베라' 중앙처리장치(CPU)도 지원해 에이전트의 작업 처리와 연산 실행을 뒷받침한다.

공동 활용 사례와 표준 설계 등은 시스코와 델 테크놀로지스, 레노버를 포함한 레드햇 파트너 생태계를 통해 제공한다.

존 파넬리 엔비디아 엔터프라이즈 소프트웨어 부문 부사장은 "에이전트가 스스로 자신의 행동 범위를 정해서는 안 된다"며 "이런 통제는 에이전트 외부 런타임과 기반 인프라에서 구현돼야 한다"고 강조했다. 이어 "엔비디아는 레드햇과의 협력을 확대해 안전한 에이전트 런타임과 거버넌스가 적용된 추론, 심층적인 하드웨어 지원을 결합했다"고 덧붙였다.