VM웨어는 인텔과 프라이빗 인공지능(AI) 구현을 확장하기 위해 협업을 확대한다고 8일 밝혔다.
VM웨어와 인텔은 공동 검증된 AI 스택을 제공하는 데 협력하고 있다. 해당 AI 스택을 통해 고객은 기존의 범용 VM웨어 및 인텔 인프라와 오픈 소스 소프트웨어를 사용해 더 간편하게 AI 모델을 구축하고 배포할 수 있다. VM웨어 클라우드 파운데이션과 인텔의 AI 소프트웨어 제품군, AI 가속기를 내장한 인텔 제온 프로세서 그리고 인텔 맥스 시리즈 GPU의 결합은 데이터 준비, 모델 학습, 미세 조정 및 추론을 위한 검증되고 벤치마크된 AI 스택을 제공하며, 과학적 발견을 가속화하고 비즈니스 및 소비자 서비스를 강화한다.
VM웨어 클라우드는 전 세계 30만 개 이상의 기업 고객을 보유하고 있으며, VM웨어 가상화 소프트웨어는 데이터가 생성, 처리 및 소비되는 기업 환경 전반에 배포돼 있다 VM웨어 클라우드를 활용하면 비즈니스 전반에서 AI 가속화 컴퓨팅과 모델을 빠르게 도입할 수 있다. 인텔 역시 수십만 고객에게 확장 가능하고 신뢰할 수 있는 개방형 솔루션을 제공하고 있다.
기업 내 VM웨어와 인텔 제품의 보편화는 데이터 과학에 대한 접근성을 개선하고, 전 세계 조직이 AI를 통한 비즈니스적 이점을 누리는 동시에 개인 정보 보호 및 규정 준수 요구 사항을 충족하는 아키텍처 접근 방식인 프라이빗 AI를 도입할 수 있도록 지원한다.
VM웨어 프라이빗 AI는 기존 AI/ML 워크로드 및 생성형 AI에 대한 지원을 바탕으로 퍼블릭 클라우드, 엔터프라이즈 데이터 센터, 엣지 등 엔터프라이즈 데이터가 생성, 처리 및 소비되는 모든 환경에 컴퓨팅 용량과 AI 모델을 제공한다. VM웨어와 인텔은 고객의 프라이빗 기업 데이터를 사용해 수 분에서 수 시간 내에 작업 특화 모델을 미세 조정하고, 대규모 언어 모델을 사람보다 빠르게 추론할 수 있다.
이번 협력 확장으로 양사는 공유 가상 시스템에서 업데이트 및 유지관리가 용이한 한층 작고 경제적인 최신 모델을 미세 조정할 수 있게 됐으며, 배치 ) AI 작업 후 IT 리소스 풀에 다시 제공할 수 있다. 또한 AI 지원 코드 생성, 경험 기반 고객 서비스 센터 추천 시스템, 전통적인 머신 통계 분석 등 사용 사례를 애플리케이션을 실행하는 동일 범용 서버에서 구동하는 것도 가능하다.
VM웨어와 인텔은 VM웨어 클라우드 파운데이션에 인텔의 AI 소프트웨어 제품군과 인텔 제온 프로세서, 데이터 센터 GPU를 결합해 고객이 이미 보유하고 있는 인프라에 프라이빗 AI 모델을 구축 및 배포할 수 있게 함으로써 TCO(총소유비용)를 줄이고 환경 지속 가능성 문제도 해결하는 레퍼런스 아키텍처를 설계하고 있다.
인텔 AI가 적용되는 VM웨어 프라이빗 AI 레퍼런스 아키텍처는 인텔 어드밴스드 매트릭스 익스텐션(AMX) 내장 4세대 인텔 제온 프로세서, 최대 128개의 Xe 코어를 제공하는 인텔 데이터센터 GPU 맥스, 인텔 AI 소프트웨어 제품군 등을 포함한다.
인텔 AI 소프트웨어 제품군은 엔드투엔드 오픈 소스 소프트웨어와 선택적 라이선스 구성 요소로 패키징됐다. 이를 통해 개발자가 데이터 준비부터 미세 조정, 추론에 이르는 전체 AI 파이프라인 워크플로우를 실행하고, 멀티 노드 확장과 엔터프라이즈 IT 인프라 상의 AI 배포를 가속화할 수 있다. 인텔의 개방형 원API 프레임워크는 프로세서 및 하드웨어 가속기에 구애받지 않는 소프트웨어 개발을 지원해, 개발자는 여러 코드 기반이나 전문 언어가 없어도 한번 작성한 코드로 다양한 아키텍처에서 코드를 실행할 수 있다. 인텔의 트랜스포머 익스텐션과 파이토치 익스텐션은 허깅 페이스 라이브러리와 긴밀하게 통합돼, 효율적인 추론을 위한 최적의 모델 미세 조정 및 압축 방법을 제공한다.
VM웨어 클라우드 파운데이션은 일관성 있는 엔터프라이즈급 인프라와 운영 간소화, 향상된 보안을 제공하는 기능을 통해 프라이빗 AI를 지원한다. VM웨어 브이샌 익스프레스 스토리지 아키텍처, VM웨어 브이스피어 분산 리소스 스케줄러, VM웨어 NSX, 보안 부팅과 가상 TPM 등을 제공한다.
VM웨어 프라이빗 AI는 인텔 AMX 및 인텔 맥스 시리즈 GPU가 탑재된 4세대 제온 CPU를 실행하는 델 테크놀로지스, 휴렛패커드 엔터프라이즈(HPE) 및 레노버 등의 서버에서 이용 가능하다.
관련기사
- VM웨어, LG CNS와 빅데이터 플랫폼 고도화 협력2023.09.27
- VM웨어, 엣지 기술 통합 관리하는 제품 출시2023.08.28
- 오라클, VM웨어 멀티클라우드 구독 프로그램에 합류2023.08.28
- VM웨어 "AI 비즈니스 보안·비용 문제 풀겠다"2023.08.23
크리스 울프 VM웨어 AI 랩스 부사장은 “프라이빗 AI는 AI에 대한 선택권, 개인 정보 보호, 제어 등 세 가지 요소를 모두 제공하기 때문에 고객은 AI 도입을 가속화하며 미래형 AI 인프라를 구축할 수 있다”며 “VM웨어 프라이빗 AI는 인텔과의 협력을 바탕으로 양사 고객이 직원 생산성을 획기적으로 개선하고, 주요 비즈니스 기능 전반에서 혁신을 일으키며, 경제적 효과를 창출하는 데 기여할 것”이라고 밝혔다.
산드라 리베라 인텔 데이터센터 및 AI 그룹 총괄 수석부사장은 “지난 수십 년간 인텔과 VM웨어는 고객이 더 빠르게 움직이고 혁신을 거듭하며 효율적인 운영을 할 수 있도록 차세대 데이터 센터-투-클라우드 기능을 제공해 왔다”며 “AI는 새롭고 강력한 가능성을 열어주며 전 세계 모든 이들의 삶을 개선할 수 있는 잠재력을 가지고 있다. 인텔과 VM웨어는 실리콘과 소프트웨어 기반의 새로운 AI 시대로 기업을 이끌 준비가 돼 있다”고 강조했다.