[AI는 지금] AMD 추격에 '쿠다' 더 세졌다…엔비디아, AI SW 주도권 강화 가속

루빈 지원·공유 GPU 관리·AI 코딩 기능 강화…AMD도 ROCm 10으로 SW 생태계 확대

엔비디아가 인공지능(AI) 가속기 시장의 주도권을 지키기 위해 소프트웨어 경쟁력을 한층 강화하고 있다. 차세대 그래픽처리장치(GPU)인 '루빈' 출하가 시작된 가운데 쿠다(CUDA)의 개발 지원을 확대하고 공유 GPU 관리와 AI 코딩 기능까지 고도화하면서 기업과 개발자를 자사 생태계에 더욱 깊숙이 끌어들이려는 모양새다.

엔비디아는 지난 9일 '쿠다 툴킷 13.4'를 공개했다고 10일 밝혔다. 이번 버전에는 차세대 GPU '루빈' 아키텍처 지원을 비롯해 공유 GPU 관리, 쿠다 파이썬과 C++ 라이브러리, AI 개발 도구 관련 기능이 추가됐다.

루빈 지원은 개발자 프리뷰 형태로 제공된다. 이에 따라 개발자들은 정식 지원에 앞서 기존 애플리케이션과 라이브러리를 루빈 환경에 맞게 점검하고 이전 작업을 준비할 수 있다. 

최근 루빈 공급이 시작된 가운데 엔비디아는 하드웨어 도입과 함께 이번 일로 소프트웨어 전환 준비까지 앞당기려는 분위기다. 다만 루빈 지원 기능은 아직 개발자 프리뷰 단계로, 성능 벤치마크나 성능 분석, 실제 서비스 배포 용도로는 권장되지 않는다.

최대 144개 GPU 연결을 위한 루빈 울트라 풀랫폼. (사진=엔비디아)

엔비디아는 이번에 기업들이 보유한 GPU를 효율적으로 활용하기 위한 기능도 강화했다. 특히 '멀티 프로세스 서비스(MPS) V3'는 기존 MPS의 제어 계층을 개편해 하나의 GPU를 여러 작업이 공유할 때 자원 배분을 보다 세밀하게 설정할 수 있도록 한 것이 특징이다.

이번 일로 기업들은 스트리밍 멀티프로세서(SM)를 나눠 사용하거나 컨테이너별 GPU 메모리 한도를 설정할 수 있으며 작업의 실행 우선순위도 관리할 수 있다. 또 여러 AI 모델과 에이전트를 동시에 운영하는 기업이나 클라우드 사업자가 GPU 사용률을 높이면서 워크로드별 자원을 구분하는 데도 활용할 수 있다.

이 같은 기능은 기업의 AI 투자가 모델 학습에서 실제 서비스 운영으로 확대되면서 중요성이 커지고 있다. 고가 GPU를 특정 작업이 독점하기보다 여러 워크로드를 공유할 수 있을수록 같은 인프라에서 처리할 수 있는 AI 서비스가 늘어나기 때문이다. 이에 엔비디아도 쿠다의 역할을 GPU 프로그래밍뿐 아니라 공유 자원 관리까지 지속적으로 넓히고 있다.

개발자가 쿠다를 사용하는 방식도 이번 일로 단순해졌다. 쿠다 파이썬은 공개 API에 타입 정보를 제공해 통합개발환경(IDE)이나 코딩 에이전트가 함수 구조와 반환형 등을 파악하기 쉽게 만들었다. 쿠다 C++에서는 카피 이프(copy_if), 파인드 이프(find_if), 리듀스(reduce), 트랜스폼(transform) 등 개발자가 익숙한 표준 라이브러리 방식으로 GPU 병렬 연산을 처리할 수 있게 했다.

AI 코딩 에이전트를 활용한 개발 환경도 확대했다. 엔비디아는 '엔사이트 AI(Nsight AI)'를 통해 최신 쿠다 문서와 코드 예제를 지원되는 AI 코딩 에이전트에 연결하는 '쿠다 MCP 서버'를 제공한다. 개발자가 문서를 직접 검색하는 부담을 줄이고 AI의 도움을 받아 쿠다 소프트웨어를 개발할 수 있도록 한 것이다.

운영체제 지원 범위도 넓혔다. 쿠다 13.4는 RTX 스파크 기기를 대상으로 윈도 온 Arm을 새롭게 지원한다. Arm 환경에서 리눅스를 넘어 윈도까지 쿠다 개발 영역을 확대한 것이다.

엔비디아가 소프트웨어 생태계를 강화하는 사이 AMD도 추격에 속도를 내고 있다. AMD는 지난달 27일 'ROCm 10'과 AI 기반 개발 환경 'ROCm.AI'를 정식 출시했다. ROCm.AI는 개발자가 기존 AI 개발 도구를 이용해 AMD 하드웨어에서 워크로드를 구축하고 실행·최적화할 수 있도록 지원한다.

이처럼 AMD가 개발 편의성과 호환성 강화에 공을 들이는 것도 기업의 가속기 선택에서 소프트웨어가 차지하는 비중이 커지고 있어서다. 이미 사용 중인 모델과 라이브러리, 개발도구를 다른 GPU 환경에서도 그대로 활용하기 어렵다면, 별도 검증과 최적화가 필요해 전환 비용이 커질 수 있다.

업계 관계자는 "AI 가속기는 단순히 칩 성능만 보고 바꾸기 어렵다"며 "기존 소프트웨어와 개발 환경을 얼마나 적은 비용으로 옮길 수 있느냐가 실제 도입 결정에 큰 영향을 줄 것"이라고 말했다.