디노티시아 '씨홀스 스토리지', 글로벌 벤치마크 'MLPerf' 벡터DB 평가 1위

초당 5.7만건 쿼리 처리…AI학습·체크포인팅·KV캐시·벡터DB 4대 영역 전방위 검증

장기기억 인공지능(AI) 및 반도체 솔루션 기업 디노티시아의 AI 스토리지 시스템 ‘씨홀스 스토리지’가 글로벌 공인 벤치마크에서 세계 최고 수준의 검색 처리 성능을 입증했다.

디노티시아는 글로벌 컨소시엄 MLCommons가 주관하는 'MLPerf® Storage v3.0' 평가의 벡터 데이터베이스 부문에서 5만7619.8 QPS(초당 질의 처리 건수)를 기록하며 처리량 기준 글로벌 1위를 차지했다고 3일 밝혔다.

이번 평가는 과학기술정보통신부와 정보통신기획평가원(IITP)의 ‘HPC 이노베이션 허브’ 사업 일환으로 한국정보통신기술협회(TTA)와 공동 수행했다.

(사진=디노티시아)

MLPerf Storage v3.0은 기존 AI 학습 외에 대규모언어모델(LLM) 추론에 핵심적인 KV 캐시와 RAG(검색증강생성) 기반 AI 검색의 핵심인 벡터DB 평가가 신설됐다. 전 세계 19개 기관이 참여한 가운데, 씨홀스 스토리지는 단일 다중 노드 분산 스토리지 구성으로 4대 워크로드(학습, 체크포인팅, KV 캐시, 벡터DB)를 모두 완수한 유일한 시스템으로 등재됐다.

특히 벡터DB 부문에서 클라이언트 4노드 구성으로 압도적인 1위를 차지했으며, 모델 상태를 저장·복구하는 체크포인팅 평가에서도 Llama3 70B 기준 114.73 GiB/s의 읽기 성능을 달성해 네트워크 이론 대역폭의 82.1%를 이끌어냈다.

디노티시아는 Ceph 기반으로 400G 인피니밴드 환경에서 구동하는 '네이티브 RDMA 지원 풀스택'을 직접 구현해 데이터 복사 및 병목을 최소화했다. 이를 통해 단일 인프라에서 AI 학습부터 추론·검색까지 통합 지원한다.

정무경 디노티시아 대표는 “공식 벤치마크를 통해 씨홀스 스토리지의 독보적 검색 성능과 범용성을 입증했다”며 “데이터 처리 병목을 해소해 기업의 AI 인프라 구축과 운영 효율을 극대화하겠다”고 말했다.