엔비디아, 기업용 AI 컴퓨팅 플랫폼 ‘엔비디아 EGX’ 공개

엔비디아(대표 젠슨 황)는 엣지(edge) 환경에서 낮은 지연시간으로 실시간 인공지능(AI) 수행이 가능한 가속 컴퓨팅 플랫폼 ‘엔비디아 EGX’(NVIDIA EGX)’를 발표했다.

이 플랫폼은 기업이 5G 기지국, 웨어하우스, 리테일, 공장 등에서 발생하는 연속 스트리밍 데이터를 실시간으로 감지, 이해 및 대응할 수 있도록 돕는다.

엔비디아 EGX는 클라우드로 전송돼야 하는 데이터 양을 줄이는 동시에, 데이터가 생성되는 엣지에서 즉각적이며 높은 스루풋(throughput)의 AI를 수행하려는 수요를 충족시키기 위해 개발됐다.

시장조사기관 IDC에 따르면 2025년에는 1천500억여 머신 센서와 사물인터넷(IoT) 디바이스가 처리돼야 할 연속 데이터를 스트리밍할 것으로 예상된다. 이는 스마트폰을 사용하는 개인으로부터 발생하는 데이터보다 많은 양이다. 엔비디아 EGX 플랫폼과 같은 엣지 서버는 전세계에 걸쳐 이러한 센서로부터 데이터를 실시간으로 처리하는데 사용될 것이다.

엔비디아의 밥 피트(Bob Pette) 엔터프라이즈 및 엣지 컴퓨팅 부문 부사장 겸 총괄은 “엔비디아 EGX와 같은 확장 가능한 플랫폼은 온프레미스 및 클라우드 환경 모두에서 시스템을 쉽게 구축함으로써 기업의 요구사항을 충족시킬 수 있다“고 말했다.

엔비디아 EGX는 소형 AI 컴퓨터 엔비디아 젯슨 나노(NVIDIA Jetson Nano)로 시작 가능하며, 이미지 인식과 같은 작업을 처리하기 위해 불과 몇 와트에 불과한 저전력으로 1초당 5천억 회의 연산이 가능하다. 또한 실시간 음성 인식 및 기타 실시간 AI 작업을 위해 최대 1만 초당테라연산(TOPS)의 성능을 제공하는 엔비디아 T4 서버의 전체 랙으로 연결된다.

엔비디아는 레드햇(Red Hat)과 협력해 엔터프라이즈급 쿠버네티스 컨테이너 오케스트레이션 플랫폼인 오픈시프트와 엔비디아 엣지 스택을 통합 및 최적화했다.

엔비디아 엣지 스택은 엔비디아 드라이버, 쿠다 쿠버네티스 플러그인, 쿠다 컨테이너 런타임, 쿠다-X 라이브러리, 텐서RT, 텐서RT 인퍼런스 서버와 딥스트림을 포함한 컨테이너형 AI 프레임워크 및 애플리케이션을 포함한 소프트웨어에 최적화돼 있다. 엔비디아 엣지 스택은 엔비디아 NGC 레지스트리에서 다운받을 수 있다.

레드햇 크리스 라잇(Chris Wright) 최고 기술 책임자는 “레드햇은 하이브리드 클라우드에서부터 엣지에 이르는 모든 워크로드, 풋프린트, 로케이션에서 일관된 경험을 제공하기 위해 노력하고 있다”며 “레드햇 오픈시프트와 엔비디아 EGX 지원 플랫폼을 결합함으로써 고객은 고성능의 컨테이너 중심 환경에서 분산 운영 더욱 최적화할 수 있게 됐다”고 말했다.

엔비디아 EGX는 엔비디아의 모든 AI 컴퓨팅 기술, 그리고 레드햇 오픈시프트 및 엔비디아 엣지 스택을 멜라녹스(Mellanox) 및 시스코(Cisco)의 보안, 네트워킹 및 스토리지 기술과 결합한다. 이를 통해 통신, 제조, 소매, 헬스케어, 운송 등을 포함한 주요 산업분야 기업들은 최첨단의 엔터프라이즈급 AI 인프라를 신속하고 안전하게 구축할 수 있다.

멜라녹스의 최고 기술 책임자인 마이클 케이건(Michael Kagan)은 “고성능, 낮은 레이턴시 및 가속화된 네트워킹의 조합은 엔비디아 EGS와 같은 엣지 플랫폼상에서 차세대 AI 솔루션을 구현하는데 필요한 데이터에 효과적으로 액세스하고 이를 공급하는데 필수적인 새로운 인프라 티어를 제공한다”고 설명했다.

시스코의 컴퓨팅 시스템 부사장 카우스투브 다스(Kaustubh Das)는 “시스코 컴퓨트, 패브릭, 스토리지, 관리 소프트웨어는 물론 우리의 업계 선도적인 이더넷 및 IP 기반 네트워킹 기술과 EGX 지원 플랫폼을 활용해 고객을 위한 엣지 투 코어(edge-to-core) 풀 스택 솔루션을 제공할 수 있게 되어 기쁘다”고 말했다.

엔비디아 AI 컴퓨팅은 주요 클라우드 서비스에 의해 제공되며, 구조적으로 엔비디아 EGX와 호환된다. 클라우드에서 개발된 AI 애플리케이션은 엔비디아 EGX에서 실행될 수 있으며, 그 반대도 가능하다. 엔비디아 엣지 스택은 주요 클라우드 IoT 서비스에 연결되며, 고객은 AWS IoT 그린그래스 및 마이크로소프트 애저 IoT 엣지에서 원격으로 서비스를 관리할 수 있다.

샘 조지(Sam George) 애저 IoT 엣지 총괄 이사는 "애저 IoT 엣지는 고객들이 IoT 디바이스에 클라우드 서비스를 신속하고 안전하게 구축할 수 있도록 도와준다. 애저 IoT 엣지 디바이스에서 엔비디아 EGX 엣지 플랫폼을 지원함으로써, 고객들이 EGX와 호환이 가능한 하드웨어를 대상으로 AI 워크로드를 구축할 수 있게 되기를 기대한다”고 말했다.

엔비디아 EGX는 소프트웨어 솔루션 생태계의 성장을 위해 AI를 최적화하고 있다. 애니비젼, 딥비젼, 아이언윈, 마롱 테크놀로지와 같은 소프트웨어 공급업체의 대규모 소매 체인 및 스마트 시티에 이상적인 비디오 분석 애플리케이션과 12 시그마, 인퍼비젼, 쿠나팁, 서틀 메디컬 등의 의료 관련 소프트웨어 제품이 포함된다.

EGX 서버는 글로벌 엔터프라이즈 컴퓨팅 공급업체 아토스, 시스코, 델EMC, 후지쯔, 휴렛팩커드 엔터프라이즈, 인스퍼, 레노버등에서 제공된다.

주요 서버 및 IoT 시스템 제조업체인 아바코, 에이서, 에이디링크, 어드밴텍, 애즈락랙, 에이수스, 에버미디어, 클라우디안, 커넥트텍, 커티스라이트, 기가바이트, 리탑, 미비, 무사시 세이미츠, QCT, 수곤, 슈퍼마이크로, 타이안, 와이베이스, 위윈 등도 EGX 서버를 지원한다.