HPE, 엔비디아 손잡고 '에이전틱 AI' 실전 투입 나선다

프라이빗 클라우드 AI·AI 팩토리 고도화…보안·거버넌스·확장성 강화

HPE가 엔비디아와 협력을 확대하며 기업용 에이전틱 인공지능(AI) 시장 공략에 박차를 가한다. 단순 AI 실험 단계를 넘어 실제 업무 환경에서 안전하고 신뢰성 있게 운영할 수 있는 '프로덕션 레디' AI 인프라를 구축해 기업 AI 전환(AX)을 지원한다는 전략이다.

HPE는 엔비디아와 공동 개발한 'HPE AI 팩토리 위드 엔비디아'를 고도화했다고 17일 밝혔다. 회사는 기업 고객이 에이전틱 AI를 실제 운영 환경에 적용할 수 있도록 지원하는 신규 솔루션을 대거 공개했다.

최근 기업들은 생성형 AI를 넘어 스스로 판단하고 여러 업무를 수행하는 에이전틱 AI 도입에 나서고 있다. 다만 보안과 거버넌스, 데이터 통제, 운영 비용 등 해결해야 할 과제가 적지 않아 실제 서비스 환경에 적용하는 데 어려움을 겪고 있다.

HPE가 엔비디아와 협력해 AI 팩토리 솔루션을 고도화했다. (사진=HPE)

HPE는 이같은 문제를 해결하기 위해 'HPE 프라이빗 클라우드 AI' 기능을 강화했다. 엔비디아 네모트론 오픈 모델과 네모클로, 오픈쉘 보안 런타임 등을 포함한 엔비디아 에이전트 툴킷을 활용해 기업이 AI 에이전트를 보다 안전하게 운영하고 정책을 적용할 수 있도록 지원한다.

또 엔비디아 베라 중앙처리장치(CPU)를 탑재한 신규 서버와 HPE 젤토를 통해 AI 에이전트 활동을 모니터링하고 문제가 발생할 경우 시스템을 신속하게 복구할 수 있는 체계도 마련했다. 이를 통해 개발 단계에 머물던 AI 에이전트를 실제 운영 환경으로 이전하는 과정을 지원한다는 목표다.

데이터 처리 효율 개선에도 집중했다. HPE 알레트라 스토리지 MP X10000과 데이터 패브릭 소프트웨어를 활용해 비정형 데이터를 AI 활용이 가능한 형태로 전환하고 모델 컨텍스트 프로토콜(MCP) 기반 데이터 활용 범위를 확대했다. 회사에 따르면 토큰 응답 시간은 최대 20배 단축하고 토큰 처리량은 최대 20% 향상할 수 있다.

보안 기능도 한층 강화됐다. HPE는 엔비디아 컨피덴셜 컴퓨팅을 통합해 온프레미스와 소버린 AI 환경에서 모델과 데이터를 실시간으로 보호할 수 있도록 했다. 또 엔비디아 블루필드와 DOCA를 활용해 제로 트러스트 보안 정책과 런타임 위협 탐지, 네트워크 암호화를 지원한다.

대규모 AI 팩토리 환경도 고도화된다. HPE는 엔비디아 RTX 프로 6000 블랙웰 서버 에디션 그래픽처리장치(GPU)와 스펙트럼-X 이더넷, 블루필드-3 DPU, 커넥트X-8 슈퍼NIC 등을 적용해 AI 개발부터 대규모 운영 환경 배포까지 지원하는 풀스택 AI 플랫폼을 제공할 계획이다.

업계에선 AI 인프라 경쟁이 단순 GPU 확보를 넘어 데이터 관리와 보안, 거버넌스, 운영 자동화를 포함한 'AI 팩토리' 구축 경쟁으로 확대되고 있다고 보고 있다. 특히 에이전틱 AI 확산에 따라 기업들이 AI를 실제 업무 프로세스에 적용하려는 수요가 늘면서 관련 시장도 빠르게 성장할 것으로 전망된다.

안토니오 네리 HPE 최고경영자(CEO)는 "AI가 점차 자율적으로 발전함에 따라 기업은 이를 안전하게 운영하고 책임감 있게 관리하며 경제적으로 확장할 수 있는 새로운 아키텍처를 필요로 한다"며 "우리는 네트워킹, 서버, 스토리지 및 소프트웨어 전반에 걸쳐 엔비디아와 함께 에이전틱 기업 기반을 구축하는 풀스택 AI 솔루션을 제공한다"고 말했다.

젠슨 황 엔비디아 CEO는 "AI 에이전트 시대를 맞아 컴퓨팅 스택의 모든 레이어가 재창조되고 있다"며 "HPE와 협력해 엔비디아 베라 CPU와 가속화 인프라, 안전한 AI 소프트웨어로 구동되는 새로운 컴퓨팅 시대를 위한 AI 팩토리를 구축했으며 기업들이 데이터를 인텔리전트 액션으로 혁신할 수 있도록 지원하겠다"고 밝혔다.