비드래프트, GPU 없이 NPU만으로 AI 사전학습 성공

추론 전용 NPU서 언어모델 학습 구현…허깅페이스에 모델·비교 분석 자료 공개

비드래프트가 그래픽처리장치(GPU) 없이 추론 전용 신경망처리장치(NPU)만으로 언어모델을 사전학습하는 데 성공했다.

비드래프트는 추론 전용 NPU에서 학습한 소형 언어모델 '브이코어(VKORE)-46M-NPU'를 허깅페이스에 공개했다고 14일 밝혔다.

일반적으로 NPU는 AI 추론에 특화된 반도체로, 모델 학습에 필요한 역전파 연산을 지원하기 어렵다는 한계가 있다. 비드래프트는 자체 개발한 기술을 활용해 NPU에서 역전파를 수행하고 사전학습된 가중치 없이 언어모델을 처음부터 학습시켰다고 설명했다.

( 사진=비드래프트)

이번 학습에는 2025년 출시된 1세대 추론 전용 NPU가 사용됐다. 회사는 동일한 모델을 고성능 GPU에서 같은 조건으로 학습한 결과와 비교했을 때 손실 궤적의 상관계수가 0.99에 달했다고 밝혔다. 다만 이는 학습 과정의 유사성을 나타내는 지표로, 두 반도체의 학습 속도가 같다는 의미는 아니다.

공개된 모델은 공개 데이터셋으로 학습돼 짧은 영어 이야기를 생성할 수 있다. 비드래프트는 모델 가중치와 모델카드, 비교 분석 자료를 허깅페이스에 공개했다. 핵심 학습 코드는 지식재산 보호를 위해 비공개로 유지하고 있으며 구체적인 기술 구현 방식은 향후 논문으로 발표할 예정이다.

회사는 이번 기술을 NPU 전용 가속 소프트웨어 계층 브이코어로 통합하고 있다. 엔비디아 GPU의 병렬 컴퓨팅 플랫폼 '쿠다'처럼 NPU에서도 추론 가속과 사전학습, 저순위 적응(LoRA) 미세조정 등을 지원하는 소프트웨어 기반을 구축한다는 구상이다.

비드래프트는 범용 공개 모델을 NPU에 적용해 추론 가속과 양자화 모델 구동도 확인한 것으로 나타났다. 향후 기업이 외부 GPU 인프라에 의존하지 않고 자체 환경에서 AI 모델을 학습하고 운영할 수 있도록 기술을 고도화할 계획이다.

김민식 비드래프트 대표는 "값싸고 전력이 적은 NPU를 추론뿐 아니라 학습까지 활용할 수 있게 되면 고가의 GPU를 오래 기다리지 않고도 기업이 자체 모델을 현장에서 직접 길러낼 수 있다"며 "이번 성과를 발전시켜 하드웨어 효율의 한계를 넓혀가겠다"고 말했다.