하이퍼엑셀, '독파모' 업스테이지 정예팀서 LLM 추론 인프라 고도화

국산 LPU 기반 고효율 인프라 집중…하드웨어·소프트웨어 통합 풀스택 스택 개발

하이퍼엑셀이 정부 주도의 '독자 AI 파운데이션 모델(독파모)' 개발 사업에 참여 중인 업스테이지 정예팀에 합류했다. 

하이퍼엑셀은 업스테이지 정예팀에서 독자 인공지능(AI) 모델의 경제성과 확장성을 확보하기 위한 추론 인프라 고도화 협력을 추진한다고 24일 밝혔다.

하이퍼엑셀은 생성형 AI 응용 환경에 최적화된 거대언어모델(LLM) 추론 전용 반도체를 설계·개발하는 기업이다. 독자 아키텍처 기반의 언어처리장치(LPU)를 통해 기존 인프라의 전력 및 비용 문제를 해결해 왔다.

(사진=하이퍼엑셀)

하이퍼엑셀은 이번 독파모 프로젝트에서 LLM 추론 특화 LPU 설계와 성능 고도화를 담당한다. 특히 ▲고효율·저비용 AI 서비스 인프라 구현 ▲가상 거대언어모델(vLLM)·파이토치 기반 고가용성(HA) 풀스택 소프트웨어 개발 등을 수행해 실제 데이터센터 환경에 최적화된 추론 가속 기술을 제공할 계획이다.

초거대 모델 상용화 과정에 필수적인 처리 효율과 운영 안정성을 동시에 확보함으로써 국내 AI 모델이 산업 서비스 현장에서 실질적인 가격 경쟁력을 갖출 수 있도록 지원한다는 방침이다.

김주영 하이퍼엑셀 대표는 "초거대 AI 경쟁은 모델 규모뿐 아니라 이를 얼마나 효율적으로 서비스할 수 있는지에 달렸다"며 "LPU 기반 추론 가속 기술을 통해 국내 AI 인프라의 기술 자립과 글로벌 수준의 비용 경쟁력 확보에 기여하겠다"고 말했다.