엔비디아 "AI 에이전트, 차세대 컴퓨팅 플랫폼으로 진화"

네모트론 기반 한국 AI 생태계 확대…네이버클라우드·SKT 등과 기술 협력

엔비디아가 인공지능(AI) 에이전트를 차세대 컴퓨팅 플랫폼으로 육성하고 기업용 AI 시장 공략에 속도를 낸다. AI 모델을 업무에 맞게 선택하고 운영 비용을 줄이는 기술을 앞세워 기업 AI 도입 장벽을 낮추는 가운데 네이버클라우드·SK텔레콤 등 국내 기업과 협력도 확대한다는 목표다.

조나단 코헨 엔비디아 응용연구 부문 부사장은 9일 서울 코엑스에서 열린 'AI 데이 서울 2026'에서 "에이전틱 AI는 새로운 컴퓨팅 플랫폼으로 볼 수 있다"며 "과거 대규모언어모델(LLM)이 사용자 질문에 답하는 방식이었다면 이제 AI 시스템은 다양한 업무를 직접 수행하는 방향으로 발전하고 있다"고 말했다.

코헨 부사장은 AI 에이전트가 기존 LLM과 소프트웨어 기술을 결합해 기업 업무를 수행하는 핵심 수단이 될 것으로 전망했다. AI 에이전트는 사용자 요청을 분석한 뒤 적합한 모델과 도구를 선택하고 기업 내부 데이터까지 활용해 복잡한 작업을 처리하는 구조다. 소프트웨어 개발부터 시스템 오류 분석, 제조 현장 문제 해결까지 활용 범위가 확대되고 있다는 설명이다.

그는 "LLM은 강력하고 유연하지만 결과를 예측하기 어렵고 연산 비용도 많이 든다"며 "AI 에이전트는 언어모델 지능과 기존 컴퓨터 과학 효율성을 결합해 이러한 한계를 보완할 수 있다"고 밝혔다.

조나단 코헨 엔비디아 응용연구 부문 부사장 (사진=지디넷코리아)

이를 위해 엔비디아는 AI 모델 선택부터 추론·학습·보안까지 지원하는 통합 기술 체계를 구축하고 있다. 핵심 기술로는 '스위치야드'를 꼽았다. 이는 작업 난도와 비용에 따라 적합한 AI 모델을 선택하도록 돕는다. 엔비디아 내부 평가에서는 작업 성공률 80%를 유지하면서 고성능 모델만 활용할 때보다 비용을 약 3분의 1 수준으로 줄인 것으로 나타났다.

AI 모델 성능과 효율 개선도 강조했다. 엔비디아 최신 모델인 '네모트론 3.5 슈퍼 VL'은 기존 모델과 비슷하거나 높은 추론 성능을 유지하면서 처리 속도를 약 5배 높였다. 엔비디아는 차세대 '네모트론 4' 개발도 추진하며 오픈 모델 생태계 확대에 나설 계획이다.

코헨 부사장은 "실제 기업 환경에서는 제한된 시간과 비용 안에서 얼마나 좋은 결과를 얻느냐가 중요하다"며 "모델 처리 속도가 빨라지면 같은 시간에 더 많은 추론을 수행할 수 있어 결과 품질도 높일 수 있다"고 설명했다.

기업 AI 운영을 위한 기술로는 'NIM'과 '다이나모'를 제시했다. NIM은 AI 모델을 효율적으로 배포하고 실행하도록 지원하는 추론 마이크로서비스이며 다이나모는 데이터센터 규모에서 여러 AI 모델의 추론 요청을 관리하고 자원 활용을 최적화하는 오픈소스 엔진이다. AI 에이전트가 기업 의도와 다르게 작동하는 문제를 막기 위한 보안 기술 '오픈셸'도 소개했다.

국내 기업과 협력 사례도 공개했다. 대표적으로 네이버클라우드는 엔비디아 '네모트론 연합'에 참여해 AI 모델 사전·사후 학습 데이터와 강화학습 환경 등을 공유하고 있다. 엔비디아 기술을 기반으로 한국어와 국내 산업 환경에 특화된 자체 AI 모델도 개발 중이다.

코헨 부사장은 "네이버클라우드는 네모트론 기술과 소프트웨어, 데이터셋을 활용하면서 한국 고유 데이터와 기업 데이터를 결합하고 있다"며 "이를 통해 한국 언어와 문화, 산업 환경에 더욱 적합한 AI 모델을 개발할 것"이라고 말했다.

SK텔레콤과 LG AI연구원, 업스테이지도 주요 협력 사례로 언급됐다. 이들 기업은 엔비디아 네모트론 기술과 데이터셋을 활용해 한국 환경에 특화된 AI 모델을 개발 중이다. 엔비디아는 한국 기업이 자체 데이터를 활용해 AI 모델을 개발하고 이를 AI 데이터센터와 기업 서비스에 적용할 수 있도록 기술 협력을 이어갈 방침이다.

코헨 부사장은 "한국 AI 생태계는 엔비디아 플랫폼을 기반으로 국내외 기업에 필요한 다양한 애플리케이션을 개발하고 있다"며 "앞으로 차세대 AI 서비스와 소프트웨어가 구축되는 과정에서 한국 기업과 협력해 AI 경제 발전에 기여하겠다"고 강조했다.