제논, 초거대 AI에 '컴퓨터 조작' 능력 더했다…B200 8장으로 후학습

훈민 VLM 397B 오픈소스 공개…모델·FP8 버전·평가 방법론 전면 공개

제논이 초거대 오픈소스 모델에 컴퓨터 작업을 수행할 수 있는 실행력을 더해 활용도를 높이고, 제한된 그래픽처리장치(GPU) 자원으로 이를 구현한 후학습 기술까지 선보였다.

제논은 3970억개 파라미터 규모의 오픈소스 모델 '훈민 VLM(비전언어모델) 397B'를 공개했다고 18일 밝혔다.

훈민 VLM 397B는 큐원3.5-397B를 기반으로 컴퓨터 화면을 인식하고 직접 조작할 수 있도록 후학습한 모델이다. 화면 속 버튼이나 입력창 등을 찾아내는 그라운딩 능력과 컴퓨터 작업을 수행하는 능력을 강화했다.

(사진=제논)

제논에 따르면 이 모델은 화면 속 조작 대상의 위치를 식별하는 5개 벤치마크에서 기본 모델인 큐원3.5-397B와 컴퓨터 조작 특화 모델인 큐원-CUA보다 높은 성능을 기록했다. 고난도 화면 인식 벤치마크인 스크린스팟-프로에서는 정확도 75.6점을 기록하며 허깅페이스 공식 리더보드 2위에 올랐다. 등록된 48개 모델 가운데 국내 기업 모델로는 유일하다고 회사 측은 설명했다.

컴퓨터 작업 수행 능력도 향상됐다. 리눅스 데스크톱 작업 360개로 구성된 OS월드에서는 70.5점을 기록해 기본 모델보다 22.3점 높았으며 윈도우 에이전트 아레나에서는 9.1점 향상된 성능을 보였다. 

컴퓨터 사용 능력을 추가하면서 기존 언어 성능이 떨어지는 문제도 최소화했다. KMMLU와 K-MM벤치를 포함한 8개 한국어 벤치마크에서 기본 모델과의 성능 차이를 2점 이내로 유지했다. 

특히 이번 모델에는 초거대 공개 모델을 제한된 컴퓨팅 자원으로 고도화하는 제논의 후학습 기술이 적용됐다. 제논은 공개된 컴퓨터 조작 모델의 능력을 저랭크 방식으로 이식한 뒤 FP8 양자화 상태에서 지도학습(SFT)과 강화학습(RL)을 거쳤다. 전체 후학습 과정에는 엔비디아 B200 GPU 8장을 활용했다.

훈민 VLM 397B는 오픈소스인 아파치 2.0 라이선스로 공개됐으며 원본 모델과 용량을 절반 수준으로 줄인 FP8 버전도 제공됐다. 제논은 모델뿐 아니라 비교 평가 조건과 방법론도 문서로 공개했다.

명대우 제논 최고기술책임자(CTO)는 "AI 경쟁의 무게중심이 파라미터 규모에서 효율적인 능력 추가와 실제 활용으로 이동하고 있다"며 "제한된 컴퓨팅 자원으로 397B 모델의 컴퓨터 사용 능력을 강화하면서 한국어 성능까지 유지한 경험을 바탕으로 액셔너블 AI와 방법론을 지속 공개하겠다"고 말했다.