비드래프트, AI 안정성 진단 AX-RAY 및 평가 데이터셋 허깅페이스에 공개

AI 안전 결함 진단·재현·실증 사례 공개

딥테크 AI·과학연구 전문기업 비드래프트(대표 김민식)는 지난 13일 범용 인공지능 모델의 잠재적 안전성 취약성을 진단하는 ‘AX-RAY’ 리더보드와 평가 데이터셋을 허깅페이스(Hugging Face)에 공개했다고 밝혔다.

허깅 페이스는 기계 학습 모델 구축·배포·교육을 하기 위한 도구와 리소스를 개발하는 프랑스계 미국 회사이자 오픈 소스 커뮤니티다.

비드래프트는 AX-RAY 평가에서 엔비디아(NVIDIA)의 범용 AI 모델 1종을 포함한 총 2종의 모델에서 인과누설 신호를 확인했다고 설명했다.

인과누설은 AI가 정상적인 추론 경로가 아닌 숨은 정보나 의도하지 않은 인과적 단서에 영향을 받아 판단·행동하는 현상을 의미한다. AI 안전성 분야에서는 로봇이나 자율 에이전트가 갑작스럽게 위험행동을 하거나, AI가 안전 가이드레일을 우회해 시스템 접근·해킹 등 예상 밖 행동을 수행하는 현상 역시 이러한 숨은 인과경로와 내부 의존성에 기인할 가능성이 있다는 가설이 제기돼 왔다. 그러나 이를 실제 범용 LLM에서 탐지하는 것은 어려운 과제로 남아 있었다고 알려졌다.

비드래프트, AI 안정성 진단 AX-RAY 및 평가 데이터셋 허깅페이스에 공개.

회사 측에 따르면 AX-RAY는 단순한 AI 성능 벤치마크가 아니라는 의견을 내기도 했다. 117개 안전성 진단항목을 통해 모델 내부의 위험행동 가능성과 취약성을 다각도로 진단하고, 각 항목을 국가별 기존 법률·규제 체계와 연결하기 때문이다. 특히 아랍권의 경우 현지 법률뿐 아니라 종교·사회적 규범을 반영한 율법 체계와의 매핑까지 고려해 국가·문화권별 AI 안전성 평가가 가능하도록 설계됐다.

비드래프트는 양자컴퓨터용 퀀텀OS(QuantumOS)와 신약·신소재 자율개발 플랫폼을 개발하는 딥테크 AI 기업으로, 서울AI허브 입주사이자 정부 첨단 GPU 지원과제 수행기업이다. 

이 회사는 엔비디아 블랙웰(Blackwell) 등 고성능 GPU를 기반으로 자체 프롬스크래치 파운데이션 모델 ‘에테르(AETHER)’와 진화형 ‘다윈(Darwin)’을 개발하고 있으며, 허깅페이스 누적 다운로드 100만 회, K-AI 리더보드 1위, GPQA 90.9%, Fast Gemma Challenge 1위 등의 성과를 기록하고 있다.

김민식 대표는 “AI 경쟁의 다음 단계는 지능이 아니라 안전성”이라며 “AX-RAY를 모델에 숨어 있는 위험한 인과관계를 찾아내고 국가별 법률과 사회규범까지 연결해 검증하는 글로벌 AI 안전성 진단 체계로 발전시키겠다”고 전했다.