"AI가 문서 열고 근거까지 검증"…미스트랄, '에이전틱 서치' 공개

검색 정답률 26.7%→86%…"기존 RAG 기술 한계 넘을 것"

미스트랄AI가 기업 내부 문서를 인공지능(AI)으로 자동 탐색하고 답변 근거를 검증하는 검색 기술을 선보였다. 

미스트랄AI는 여러 데이터 소스에서 필요한 정보를 찾고 조사한 뒤 검증하는 '에이전틱 서치'를 공개했다고 23일 밝혔다. 에이전틱 서치는 '미스트랄 검색 툴킷'과 '라이브러리'를 통해 제공되며 미스트랄 '스튜디오'와 '바이브'에서도 이용할 수 있다.

에이전틱 서치는 기존 검색 인덱스에 '서치'와 '오픈' '내비게이트' '리드' '그렙' 등 5개 도구를 결합한다. AI 모델이 관련 문서를 검색한 뒤 파일을 직접 열고, 특정 페이지나 표로 이동해 필요한 내용을 읽으며 문서 안에서 특정 표현도 찾을 수 있도록 구성됐다.

미스트랄AI가 기업 내부 문서를 인공지능(AI)으로 자동 탐색하고 답변 근거를 검증하는 검색 기술을 선보였다. (사진=미스트랄AI)

미스트랄AI 자체 평가에서 에이전틱 서치는 금융 문서 질의응답 벤치마크 '파이낸스벤치' 정답률을 26.7%에서 86%로 높였다. 표가 많고 여러 문서를 함께 분석하는 '오피스QA 프로'에서는 정답률이 6.3%에서 51.9%로 45.6%포인트(P) 올랐다.

파이낸스벤치는 미국 증권거래위원회에 제출된 공시 자료 368건 바탕으로 150개 질문에 답하는 평가다. 대상 문서는 평균 약 147페이지다. 전체 분량은 약 5만 3900페이지며, 답변은 인간 정답에 맞춰 보정된 거대언어모델(LLM) 평가자가 채점했다.

이번 평가는 기본 청킹과 기본 순위 지정 방식을 적용한 미스트랄 검색 툴킷 환경에서 별도 튜닝 없이 진행됐다. 미스트랄AI는 상대적으로 작은 '미스트랄 미디엄 3.5'와 대형 모델인 G.AI의 'GLM-5.2'를 이용해 성능을 측정했다.

미스트랄은 에이전틱 서치 처리 효율도 우수하다고 밝혔다. 필요한 문서와 위치를 선별적으로 탐색한 결과 90번째 백분위수 기준 지연 시간은 최대 39.6% 줄었으며 반복 검색 감소로 토큰 사용량도 최대 3분의 1 절감됐다.

기존 원샷 검색증강생성(RAG)는 최초 검색에서 선택한 일부 텍스트 조각만으로 한 번에 답을 생성한다. 답이 상위 검색 결과에 없거나 여러 문서와 표·각주·조항에 흩어져 있으면 다른 자료를 추가로 찾거나 주변 맥락을 확인하기 어렵다는 한계가 있다.

에이전틱 서치는 첫 검색 결과가 충분하지 않으면 검색어를 바꾸고 새로운 문서를 찾아볼 수 있다. 유력한 자료를 직접 열어 특정 영역으로 이동하고 여러 출처 내용을 비교한 뒤 근거를 확인하는 방식이다.

에이전틱 서치는 별도 파인튜닝이나 모델별 학습을 요구하지 않는다. 기존 인덱스를 유지한 상태에서 모델의 추론과 도구 사용 능력이 향상될수록 검색 품질도 높아지도록 설계됐다.

에이전틱 서치 적용 대상으로는 금융 공시, 법률 계약서, 기술 사양서, 정부 기록, 스캔 문서 등이 제시됐다. 미스트랄AI는 클라우드와 온프레미스의 격리 경계를 유지하면서 민감한 도메인 특화 데이터를 검색할 수 있다고 설명했다.

미스트랄AI는 "활용 사례에 맞게 별도로 튜닝하면 결과 품질을 더욱 높일 수 있다"고 밝혔다.