"생성형 AI 컴퓨팅 요건 2030년 276퀘타플롭스 도달"

제프 클라크 델테크놀로지스 부회장 DTW 2024 둘째날 기조연설

[라스베이거스(미국)=김우용 기자] “앞으로 10년을 바라볼 때 우리 모두 무엇이든 준비해야 한다. 현재 생각하는 AI 워크로드를 구동하기 위한 컴퓨팅 요구사항은 2030년까지 276퀘타플롭스에 이를 것으로 예상된다. 0이 30개고, 지금보다 100배 증가다. 생성형 AI 데이터센터 수요는 2026년까지 기존 수요를 능가하고 10년 후엔 전체 수요의 75%를 차지할 것으로 예상된다. AI 워크로드 연산은 학습에서 추론으로 급격히 전환돼, 컴퓨팅 수요의 10%만 학습에 사용되고 나머진 추론에 사용될 것이다. 에너지도 AI 데이터센터에 390기가와트가 사용될 것으로 전망된다. 지금의 8배 전력이 필요해진다. 2030년 말까지 20억대의 AI PC가 사용될 것이다.”

제프 클라크 델테크놀로지스 제품 및 운영 부문 부회장은 21일(현지시간) 미국 라스베이거스에서 개최된 ‘델테크놀로지스월드(DTW) 2024’ 둘째날 기조연설에서 이같이 밝혔다.

제프 클라크 부회장은 “IT 전문가 입장에서 생성형 AI 워크로드는 새로운 아키텍처를 필요로 한다”며 “높은 처리량의 패브릭을 고속 스토리지로 지원해 벡터 연산에 최적화되도록 만드는게 필요하다”고 강조했다.

제프 클라크 델테크놀로지스 제품 및 운영부문 부회장

그는 델테크놀로지스의 AI 전략을 뒷받침하는 다섯가지 신념을 소개했다.

그는 “현재 전세계 모든 데이터의 83%는 온프레미스에 있고, 그중 절반은 엣지에서 생성된다”며 “AI를 데이터로 가져가는 게 더 효율적이고 안전하다”고 말했다. 이어 “모든 기업에 다 맞는 하나의 접근법은 없다”며 “빠른 모듈형 아키텍처가 필요하고, 광범위한 개방형 생태계가 필요하다”고 덧붙였다.

‘델 AI 팩토리’ 설명이 이어졌다. 생성형 AI에 맞는 새로운 컴퓨팅 아키텍처의 필요성 때문에 특별히 설계됐다는 오퍼링이다.

델 AI 팩토리는  델과 파트너사가 구성한 개방형 생태계를 바탕으로 기업과 기관에게 각각의 고유한 목적에 부합하는 AI 애플리케이션을 단기간에 구축할 수 있는 기반을 제공한다. PC, 서버, 스토리지, 데이터 보호 및 네트워킹을 아우르는 델의 엔드투엔드 AI 포트폴리오를 바탕으로 구성됐다. 델은 증가하는 AI 수요를 충족하기 위한 목적형 설계의 오퍼링들을 추가하며 이 포트폴리오를 확장하고 있다.

기업은 자신의 보유 데이터를 ‘델 AI 팩토리’ 기반의 AI 공장에 부어넣고, 바로 자신의 상황에 맞는 다양한 유즈케이스를 만들어낼 수 있다.

클라크 부회장은 “여러분의 데이터를 동력으로 델의 전문 서비스 지원을 받아 데이터를 효율적으로 학습하고, 개방형 생태계로 사용사례에 최적화된 지금까지 경험못한 비즈니스에 대한 집단지성과 인사이트를 얻을 수 있다”며 “중소기업부터 대기업에 이르기까지 다양한 형태와 규모에 따라 제공될 것”이라고 밝혔다.

그는 “AI 워크로드는 처음부터 엄청난 컴퓨팅 집약도를 필요로 하기에 가속화된 컴퓨팅이 핵심”이라며 “소규모 가속 컴퓨팅에서 최대 규모의 시스템까지 구축할 수 있어야 하고, 파일 및 객체 데이터 유형에 최적화된 고속 IO 스토리지, 높은 처리량과 저지연의 네트워킹이 필요하다”고 밝혔다.

그는 “가장 가치 있는 데이터는 학습되고 튜닝된 모델이 될 것이며, 이를 보호해야 한다”며 “데이터 시스템을 공통 데이터 파이프라인으로 통합해야 하고, 궁극적으로 AI를 엣지, 공장, 병원, 스마트시티까지 확장하려면 학습, 튜닝, 추론 등을 위한 소프트웨어 도구 세트로 구동되는 PC를 갖춰야 한다”고 말했다.

이어 “이것들은 매우 매우 복잡하고, 고도로 기술적인 시스템들이기에, 첫번째 토큰 생성까지 배포 속도를 향상시키기 위해 높은 수준의 솔루션 엔지니어링과 통합이 필요하다”며 “오늘날 시장에서 가장 광범위한 포트폴리오를 보유한 델의 AI 팩토리가 그 해답”이라고 덧붙였다.

이어 브로드컴의 찰리 카바스 반도체그룹 사장이 무대에 올라 생성형 AI 워크로드를 대규모로 확장하기 위한 양사의 네트워킹 패브릭 협력 내용을 소개했다. 그를 이어 아서 루이스 델테크놀로지스 ISG 사장이 델 AI 팩토리를 구성하는 서버, 스토리지, 네트워킹 솔루션을 발표했다. 메타, 허깅페이스 등의 임원도 등장해 생성형 AI 민주화를 위한 개방형 생태계의 중요성을 강조했다. PC 클라이언트의 온디바이스 AI를 설명하는 순서에 마이크로소프트 매트 발로우 디렉터가 전날 발표된 ‘코파일럿 플러스 PC’를 시연했다. 마지막으로 포뮬러원 맥라렌레이싱의 CEO 잭 브라운도 등장했다.