엔비디아, 실시간 대화형 AI 지원하는 '텐서RT 7' 공개

엔비디아(CEO 젠슨 황)는 실시간 대화형 AI를 지원하는 추론 소프트웨어의 최신 버전인 엔비디아 '텐서RT 7'을 19일 발표했다.

엔비디아 측은 전세계 개발자들이 대화형 AI 애플리케이션을 제공하는데 사용되어, 그간 인간과 AI간 상호작용에 걸림돌이 됐던 추론 레이턴시(지연시간)를 크게 개선할 것으로 기대한다고 설명했다.

엔비디아 텐서RT 7은 엔비디아의 7세대 추론 소프트웨어 개발 키트다. 보다 스마트한 인간과 AI간 상호작용을 가능케 해, 음성 에이전트, 챗봇, 추천 엔진 등의 애플리케이션을 실시간으로 구현할 수 있다.

엔비디아.

미국 시장조사기관 주니퍼 리서치에 따르면, 전세계 디바이스에서 약 32억5천만 개의 디지털 음성 비서가 사용되고 있는 것으로 추정된다. 2023년까지 그 숫자가 세계 총 인구 수를 뛰어 넘는 80억 개까지 증가할 것으로 예상되고 있다.

텐서RT 7은 AI 음성 애플리케이션을 구현하는데 필요한 트랜스포머 기반 순환신경망(RNN)을 자동으로 최적화하고 가속화하도록 설계된 최신 딥 러닝 컴파일러를 제공한다. 대화형 AI의 구성요소가 CPU에서 실행될 때 보다 10배 이상 빨라진다. 동시에, 지연시간은 실시간 상호작용에 필요한 수준인 300 밀리 초 임계값 미만으로 단축된다.

엔비디아 창립자 겸 CEO 젠슨 황(Jensen Huang)은 GTC 차이나 기조연설에서 “우리는 기계가 인간의 언어를 실시간으로 이해할 수 있게 된 새로운 AI 시대에 들어섰다”며 “텐서RT 7은 전 세계 개발자들에 인간과 AI간의 보다 자연스러운 상호작용을 가능케하는 빠르고 스마트한 대화형 AI 서비스를 구축 및 배포할 수 있는 툴을 제공한다”고 말했다.

텐서RT 7은 텐서RT 홈페이지를 통해 엔비디아 개발자 프로그램 회원들에게 개발 및 배포 목적으로 무료로 제공될 예정이다. 또 텐서RT 깃허브(GitHub) 저장소에서 최신 버전의 오픈소스 플러그인, 파서(parser), 샘플 등을 다운로드할 수 있다.