델테크놀로지스, 온프레미스 생성AI 구축 솔루션 출시

델테크놀로지스는 온프레미스 환경에 안전하고 신속하게 생성형 AI를 구축할 수 있도록 지원하는 신규 오퍼링을 2일 공개했다.

올해 5월 발표된 프로젝트 헬릭스(Helix)의 일환으로 출시된 ‘델 생성형 AI 솔루션’은 IT 인프라, PC 및 전문 서비스를 망라해 대규모 언어 모델(LLM)을 갖춘 풀 스택 생성형 AI 채택을 간소화하고, 고객이 생성형 AI 여정의 어느 단계에 있든 이를 활용할 수 있도록 설계됐다. 모든 규모와 산업 전반의 조직들이 안전하게 혁신을 추진하고 더 나은 결과를 확보할 수 있도록 돕는다.

델의 광범위한 포트폴리오로 구성된 ‘델 생성형 AI 솔루션’에는 델 프리시전 워크스테이션, 델 파워엣지 서버, 델 파워스케일 비정형 데이터 스토리지, 델 ECS 엔터프라이즈 오브젝트 스토리지와 서비스 등을 포함한다.

델과 엔비디아의 공동 엔지니어링으로 탄생한 ‘생성형 AI를 위한 델과 엔비디아의 검증 설계’ 오퍼링은 AI 추론을 위한 블루프린트로서 모듈러 방식을 통해 빠르게 구축 가능하며, 엔터프라이즈 환경에 맞춰 안전하고 확장이 용이한 플랫폼을 제공한다.

기존의 전통적인 추론 접근법은 LLM을 확장하고 지원해 실시간으로 결과를 도출하거나, AI 인프라에서 데이터를 손쉽게 사용하기에 어려움이 있었다. 이번에 델이 발표한 검증 설계를 활용하면, 기업의 자체 데이터를 이용해 가치 달성시간을 줄이고, 더 높은 품질의 예측 분석과 의사 결정 체계를 확보할 수 있다.

검증이 완료된 포괄적인 추론 접근 방식을 통해 조직에서는 생성형 AI 프로젝트를 신속하게 진행하고 애플리케이션을 확장하여 고객 관리, 콘텐츠 생성 및 관리, 세일즈, 소프트웨어 개발 등의 중요 프로세스를 혁신할 수 있다.

델 검증 설계는 엔비디아 텐서 코어 GPU, 엔비디아 AI 엔터프라이즈 소프트웨어, 엔비디아 네모 엔드투엔드 프레임워크 및 델 소프트웨어 탑재 델 파워엣지 XE9680 또는 R760xa 등의 델 인프라를 기반으로 생성형 AI 추론을 지원하기 위해 테스트와 검증을 마친 오퍼링이다. 고객은 이를 델 파워스케일 및 델 ECS 스토리지를 포함하여 탄력적이고 확장 가능한 비정형 데이터 스토리지와 결합할 수 있다. 이 인프라는 ‘델 에이펙스’ 구독을 통해서도 제공된다.

델 프로페셔널 서비스는 생성형 AI 채택을 가속화할 수 있는 광범위한 기능을 제공함으로써 운영 효율성을 개선하고 혁신을 촉진할 수 있도록 돕는다.

이 서비스는 생성형 AI를 통해 큰 비즈니스 가치를 생성할 수 있는 여러 활용 케이스를 선정하고, 이를 달성할 수 있는 로드맵을 구축할 수 있도록 위한 신규 전략을 수립하는 것에서부터 시작한다. 델은 ‘생성형 AI를 위한 델과 엔비디아의 검증 설계’를 기반으로 풀 스택 구축 서비스를 제공하며, 고객 관리, 콘텐츠 생성 등 특정 사례에 플랫폼을 적용할 수 있도록 지원한다. 비즈니스에 통합을 완료한 이후 스케일링 서비스를 통해 관리형 서비스, 교육 및 상주 전문가를 통해 운영을 개선할 수 있다.

‘델 프리시전’은 모델을 배포하기 전에 AI 개발자나 데이터 사이언티스트가 로컬 디바이스에서 생성형 AI 모델을 개발하고 튜닝할 수 있도록 지원한다. 단일 워크스테이션에서 최대 4개의 NVIDIA RTX 6000 Ada 세대 GPU를 통해 이전 세대보다 AI 소프트웨어 프레임워크를 80% 더 빠르게 실행할 수 있다.

내장된 AI 소프트웨어인 델 옵티마이저는 일하는 방식을 학습하고 자동 조정하여 애플리케이션, 네트워크 연결 및 오디오 전반의 성능을 향상시킨다. 생성형 AI 모델을 활용하는 모바일 워크스테이션 사용자가 배터리 사용 시간에 미치는 영향을 최소화하면서 사용 중인 애플리케이션의 성능을 향상시킬 수 있도록 최신 기능이 추가됐다.