디노티시아, VDPU 서버 환경으로 확장…美서 카드 4장 탑재 서버 공개

동일 소프트웨어 기반 CPU 서버 대비 벡터 검색 처리량 최대 5.77배

장기기억 인공지능(AI) 및 반도체 통합 솔루션 전문기업 디노티시아가 벡터 검색 전용 프로세서 ‘벡터 데이터 프로세싱 유닛(VDPU)’를 서버 환경으로 확장한 아키텍처를 공개했다.

디노티시아는 지난 15일부터 17일까지 미국 캘리포니아 산타클라라 컨벤션센터에서 열린 ‘AI 인프라 서밋 2026’에 참가해 VDPU 카드 4장을 탑재한 서버 구성을 선보였다.

[디노티시아 사진자료] 디노티시아 부스 현장 모습

디노티시아는 최근 VDPU 칩과 가속기 카드를 공개한 데 이어, 이번 행사에서는 실제 서버 환경으로 적용 범위를 넓혔다. 1세대 VDPU ASIC은 현재 칩의 동작 특성을 측정·검증하는 특성화를 진행 중이며, 디노티시아는 올해 4분기부터 ASIC 기반 평가를 시작할 계획이다.

FPGA 기반 평가에서는 VDPU 카드 4장을 탑재한 서버가 동일한 소프트웨어 스택을 구동한 듀얼소켓 CPU 전용 서버 대비 최대5.77배의 벡터 검색 처리량을 기록했다.

4096차원 멀티모달 워크로드에서 인덱스 구축에 사용하는 호스트 CPU는 92%, 메모리는73% 줄었다. 검색 재현율은 CPU 전용 환경과 동등하거나 높은 수준을 보여, 처리량을 높이면서도 검색 품질 저하는 없었다. 한편 ASIC 기반 VDPU는 CPU 서버 대비 최대 10배 수준의 벡터 검색 성능을 목표로 하고 있다.

디노티시아는 VDPU의 역할을 "생성은 GPU, 검색은 VDPU"로 설명한다. GPU가 모델 실행과 답변 생성에 집중하고, VDPU가 외부 정보를 검색해 답변 생성에 활용하는 검색 증강 생성(RAG)과 AI 에이전트의 벡터 검색을 담당하는 구조다. 에이전틱 AI가 확산되면서 하나의 작업 안에서도 검색과 검증이 반복되는 만큼, 모델 연산뿐 아니라 데이터 검색 성능의 중요성도 커지고 있다.

디노티시아는 FPGA 환경에서 자사 벡터 데이터베이스 씨홀스(Seahorse), FAISS, Milvus, hnswlib와 VDPU의 연동을 검증했다. 국내에서는 씨홀스와 VDPU를 결합해 기업이 보유한 데이터를 AI가 저장·검색·활용할 수 있는 AI 데이터 인프라로 제품화를 추진하고, 글로벌 시장에서는 서버·스토리지·메모리·반도체 기업을 대상으로 VDPU 평가와 개념검증(PoC)을 확대하고 있다.

양세현 디노티시아 최고기술책임자(CTO)는 “에이전틱 AI가 확산되면서 모델 연산뿐 아니라 데이터 검색 성능의 중요성도 커지고 있다”며 “VDPU는 벡터 검색을 전담하고 CPU와 GPU는 각자의 역할에 집중할 수 있도록 설계됐다. 이번 행사에서 VDPU의 서버 구성을 선보인 만큼, 앞으로 실제 고객 워크로드를 기반으로 평가와 적용을 확대해 나갈 것”이라고 말했다.