오케스트로, 국산 AI 반도체 생태계 키운다…112억원 R&D 사업 수행

국산 NPU·PIM 기반 AI 인프라 고도화…LLM 실증도 추진

오케스트로가 국산 인공지능(AI) 반도체 기반 클라우드 소프트웨어(SW) 시장 확대에 나선다. 그래픽처리장치(GPU) 중심 AI 인프라 구조를 넘어 국산 신경망처리장치(NPU)·지능형 메모리 반도체(PIM) 생태계를 확대해 AI 인프라 자립도를 높인다는 목표다.

오케스트로는 과학기술정보통신부와 정보통신기획평가원(IITP)이 추진하는 'AI 반도체 특화 클라우드 네이티브 SW 스택 및 모델 허브 기술 개발' 과제 주관기관으로 선정됐다고 8일 밝혔다.

이번 사업은 총 112억 5000만원 규모 연구개발(R&D) 과제로, 오는 2029년까지 4년간 진행된다. 국산 NPU와 PIM 등 차세대 AI 가속기가 범용 클라우드 환경에서도 안정적으로 활용될 수 있도록 클라우드 기반 운영 체계를 구축하는 것이 핵심이다.

(사진=오케스트로)

오케스트로는 이번 과제를 통해 AI 반도체 전용 클라우드 네이티브 SW 스택을 고도화할 계획이다. 주요 개발 항목은 ▲컨테이너 런타임 인터페이스(CRI) 호환 기술 ▲가속기 자원 직접 접근을 지원하는 패스스루 기술 ▲마이크로서비스 아키텍처(MSA) 프레임워크 등이다.

회사는 이를 통해 기존 GPU 중심 클라우드 인프라 한계를 극복하고 국산 NPU 기반 AI 가속기를 보다 유연하게 할당·운영할 수 있는 표준 운영 체계를 마련한다는 목표다.

AI 모델 생태계 확장도 함께 추진한다. 오케스트로는 국산 AI 반도체 기반 학습·추론 모델을 손쉽게 등록·배포할 수 있는 'AI 모델 허브' 플랫폼도 구축할 예정이다. 모델 컨테이너화 자동화 기술과 메타데이터 관리 체계를 기반으로 운영되며 과제 종료 시점까지 1000개 이상의 최적화 모델 확보를 목표로 한다.

초거대언어모델(LLM) 실증 사례 확보에도 나선다. 국산 AI 반도체 기반 서비스 상용화 가능성을 검증해 국내 중소·벤처기업이 고가 외산 GPU 의존도를 낮추고 AI 서비스를 보다 빠르게 개발·출시할 수 있도록 지원한다는 계획이다.

이번 연구 성과는 정부가 추진 중인 'K-클라우드 프로젝트'와 국가 AI 컴퓨팅 인프라 구축 사업에도 연계 적용될 예정이다. 오케스트로는 커널 레벨 정밀 모니터링과 분산 추적 기술을 결합해 AI 워크로드 예측 정확도를 99% 수준까지 높이고 대규모 AI 서비스 운영 안정성을 검증할 방침이다.

김범재 오케스트로 대표는 "이번 과제는 국산 AI 반도체가 글로벌 시장에서 경쟁력을 확보하는 데 필요한 핵심 SW 기반을 마련하는 것"이라며 "하드웨어(HW)와 SW가 유기적으로 결합되는 AI 컴퓨팅 환경을 구현해 국내 AI 인프라 자립도를 높이고 국산 AI 반도체 생태계 확산에 기여하겠다"고 밝혔다.