엔비디아 만난 뉴타닉스, 'NAI' 출시…"AI 배포 안전성↑"

쿠버네티스 전 플랫폼서 사용 가능…기업 AI 격차 해소·개발 장벽 제거

뉴타닉스가 기업의 인공지능(AI) 활용을 지원하는 클라우드 네이티브 제품을 공개했다. 

뉴타닉스는 기업 AI 인프라 플랫폼 확장을 지원하는 '뉴타닉스 엔터프라이즈 AI(NAI)'를 출시했다고 19일 발표했다. 이 제품은 현재 엣지, 코어 데이터센터와 아마존 ESK, 애저 쿠버네티스 서비스, 구글 쿠버네티스 엔진 등 공공클라우드 서비스 등 모든 쿠버네티스 플랫폼에서 사용 가능하다.

NAI는 엔비디아 NIM으로 파운데이션 모델의 성능을 최적화했다. 조직은 거대언어모델(LLM)의 추론 엔드포인트를 안전하게 배포할 수 있다. 이를 통해 생성형 AI 애플리케이션을 수 분 내 배포할 수 있다. 

뉴타닉스 GPT 인어박스와 뉴타닉스 엔터프라이즈 AI. (사진=뉴타닉스)

보통 생성형 AI는 하이브리드 워크로드 형태로 작동한다. 새로운 애플리케이션은 주로 퍼블릭 클라우드에서 구축되고, 사설 데이터를 사용한 모델의 미세 조정은 온프레미스에서 이뤄진다. 추론은 비즈니스 로직과 가장 가까운 곳에 배포되는데, 이는 엣지, 온프레미스 또는 퍼블릭 클라우드일 수 있다. 이런 분산된 하이브리드 생성형 AI 워크플로우는 복잡성, 데이터 프라이버시, 보안 및 비용 측면에서 조직에게 부담을 줄 수 있다. 

NAI는 일관된 멀티클라우드 운영 모델과 엔비디아 NIM에 최적화된 추론 마이크로서비스와 허깅페이스의 오픈 파운데이션 모델을 사용함으로써 LLM을 안전하게 배포, 확장 및 실행하게 돕는다. 이를 통해 기업은 비즈니스 핵심 애플리케이션에 필요한 복원력, 운영 역량 및 보안성을 갖춘 엔터프라이즈 생성형 AI 인프라를 온프레미스 또는 아마존 EKS, 애저 쿠버네티스 서비스, 구글 쿠버네티스 엔진에 구축할 수 있다.

특히 NAI는 기업 간 AI 기술 격차를 해소할 수 있다. 간편성, 선택의 폭, 내장 기능을 통해 IT 관리자가 AI 관리자로 전환할 수 있다. 데이터 과학자와 개발자가 최신 모델과 엔비디아 가속 컴퓨팅을 활용해 AI 개발을 가속화할 수 있다.

기업은 AI 준비 플랫폼 구축의 장벽도 NAI로 제거할 수 있다. 생성형 AI 도입을 고려하는 많은 조직이 온프레미스 인프라와 여러 퍼블릭 클라우드 간 일관성 유지를 포함해 AI 워크로드 지원에 적합한 플랫폼 구축에 어려움을 겪고 있다. NAI는 간단한 사용자인터페이스(UI) 기반 워크플로로 이 문제를 해결할 수 있다. 고객은 몇 분 만에 LLM 추론 엔드포인트를 배포·테스트할 수 있게 돕는다. 

이 제품은 클라우드와 온프레미스 환경에서 최적화된 모델 성능을 보장하는 엔비디아 NIM 마이크로서비스 지원을 통해 고객 선택의 폭을 넓히고 허깅페이스와 기타 모델 표준도 지원한다. 또 뉴타닉스 쿠버네티스 플랫폼과의 기본 통합은 전체 뉴타닉스 클라우드 플랫폼 활용 능력을 제공하거나, 기업에게 엔비디아 가속 컴퓨팅을 갖춘 아마존 EKS, 애저 쿠버네티스 서비스, 구글 쿠버네티스 엔진을 포함한 모든 쿠버네티스 런타임에서 실행할 수 있는 옵션을 제공한다.

기업은 데이터 프라이버시와 보안 우려도 줄일 수 있다. NAI는 고객이 제어하는 컴퓨팅 리소스에서 모델과 데이터 실행을 제공함으로써 프라이버시와 보안 위험을 줄일 수 있도록 지원한다. 또 NAI는 LLM에 사용되는 리소스 문제 해결, 모니터링, 활용을 위한 직관적인 대시보드와 LLM 접근성을 제어하고 파악할 수 있는 빠르고 안전한 역할 기반 접근 제어(RBAC)를 제공한다. 강화된 보안이 필요한 조직은 에어갭이나 다크 사이트 환경에 이를 배포할 수도 있다.

NAI는 생성형 AI 워크로드에 엔터프라이즈급 인프라 구축도 돕는다. 뉴타닉스 클라우드 플랫폼을 핵심 비즈니스 애플리케이션에 실행하는 고객은 이제 동일한 수준의 안전성, 운영 효율성, 보안을 생성형 AI 워크로드에 적용해 엔터프라이즈급 인프라를 구축할 수 있다.

뉴타닉스는 NAI 사용 사례로 ▲고객 피드백과 문서 분석을 통한 생성형 AI로 고객 경험 개선 ▲코파일럿과 지능형 문서 처리를 활용한 코드·콘텐츠 생성 가속화 ▲특정 도메인 데이터로 모델을 미세 조정해 코드·콘텐츠 생성 효율화 ▲사기 탐지, 위협 탐지, 경고 강화, 자동 정책 생성을 위한 AI 모델 활용으로 보안 강화 ▲사내 데이터로 미세 조정된 모델을 활용한 분석 개선 등이 있다.

NAI는 뉴타닉스 GPT인어박스 2.0에 탑재됐다. GPT 인어박스에는 뉴타닉스 클라우드 인프라(NCI), 뉴타닉스 쿠버네티스 플랫폼(NKP), 뉴타닉스 통합 스토리지(NUS)와 온프레미스 훈련·추론을 위한 맞춤형 서비스로 이뤄졌다. 퍼블릭 클라우드 배포를 원하는 고객은 NAI를 모든 쿠버네티스 환경에 배포할 수 있으며, 온프레미스 배포와 운영 일관성을 유지할 수 있다.

뉴타닉스 토마스 코넬리 제품 관리 부문 수석 부사장은 "NAI는 온프레미스나 퍼블릭 클라우드에서 생성형 AI 애플리케이션을 쉽고 안전하게 실행할 수 있도록 돕는다"며 "모든 쿠버네티스 플랫폼에서 실행 가능하며, AI 애플리케이션을 예측 가능한 비용으로 안전한 환경에서 운영할 수 있게 한다"고 말했다.

엔비디아 저스틴 보이타노 엔터프라이즈 AI 부사장은 "생성형 AI 워크로드는 본질적으로 하이브리드 특성을 가지고 있어 훈련, 맞춤화, 추론이 퍼블릭 클라우드, 온프레미스 시스템, 엣지 환경에 걸쳐 이뤄진다"며 "엔비디아 NIM을 NAI에 통합하면 안전한 API를 갖춘 일관된 멀티클라우드 모델을 이용할 수 있다"고 강조했다.