[AI 리더스] 셀렉트스타는 어떻게 은행 '신뢰성 검증' 도맡았나

김세엽 대표 "60일 걸릴 평가 50분에…3개 은행 PoC 없이 도입"

"사람이 100% 수작업으로 했다면 60일이 걸렸을 평가를 50분 만에 끝냈습니다."

김세엽 셀렉트스타 대표는 지난 13일 서울 강남구 본사에서 지디넷코리아와 만나 NH농협은행 생성형 인공지능(AI) 서비스 검증 사례를 이같이 소개했다.

NH농협은행은 사내 업무·금융 지식 질의응답 AI를 개발하면서 셀렉트스타의 신뢰성 검증 자동화 솔루션 '다투모 이밸(DATUMO eval)'을 도입했다. 평가 기간이 두 달에서 한 시간 이내로 줄면서 AI를 수정할 때마다 검증을 다시 돌려 목표 성능에 도달했는지 확인할 수 있게 됐다.

김세엽 셀렉트스타 대표가 지난 13일 서울 강남구 본사에서 지디넷코리아와 만나 인터뷰를 하고 있다. (사진=셀렉트스타)

다투모 이밸을 정식 도입한 은행은 NH농협은행만이 아니다. 우리은행은 국내 최초 AI 청약 상담 서비스를 개발하며 금융보안원 보안성 검증을 이 솔루션으로 진행했고, 신한은행은 현업 부서가 직접 AI 서비스를 만드는 전사 생성형 AI 플랫폼에 평가 모듈로 탑재했다. 세 은행 모두 별도 기술검증(PoC) 기간 없이 곧바로 정식 도입을 택했다.

김 대표는 "세 은행 모두 생성형 AI를 도입하는 과정에 평가가 필수라는 인식이 명확했다"며 "다투모 이밸이 정확하고 일관되게 목표 수준 도달 여부를 확인해 준다는 점이 바로 도입으로 이어졌다"고 설명했다.

은행들이 AI 서비스 평가를 속속 도입하게 된 배경에는 바로 규제 완화가 있다. 금융당국이 망분리 규제를 풀고 혁신금융서비스 제도로 외부 AI 활용 길을 열자 은행의 AI 도입은 그룹 차원으로 확산됐다. 하지만 서비스 신뢰도를 확인하는 검증 절차는 사람이 일일이 평가 질문을 만들고 답변을 검수하는 수작업에 머물러 있었다.

김 대표는 "사람이 직접 평가하던 방식으로는 충분한 AI 검증이 이뤄질 수 없었다"며 "고객 신뢰와 리스크 관리가 핵심인 금융에서 안전성 판단이 서지 않으면 어떤 액션도 할 수 없다"고 강조했다.

다투모 이밸의 은행사 도입 사례 예시 (사진=셀렉트스타)

은행들이 AI 서비스 도입에 있어 가장 경계하는 위험은 환각(할루시네이션)이다. 상품 설명서와 약관 등 정해진 문서를 근거로 답해야 하는 업무 특성상 AI가 없는 내용을 지어내면 곧바로 금융 사고로 이어지기 때문이다. 민감 정보 유출을 막는 보안 평가, 편향·부적절 발언을 거르는 안전성 평가도 주요 검증 항목으로 꼽힌다.

여기에 AI가 실제 업무를 수행하는 에이전트로 진화하면서 정답이 정해지지 않은 업무까지 원칙 기준으로 채점해야 하는 단계에 이르렀다. 셀렉트스타는 라우터·플래너·툴콜링 등 에이전트 핵심 구성 요소 하나하나를 평가하도록 솔루션을 확장했다.

문제는 평가를 반복할수록 커지는 비용 부담이다. AI 답변을 채점할 때마다 거대언어모델(LLM)을 가져와 쓰면 그만큼 컴퓨팅 비용이 불어난다. 이를 보완하기 위해 등장한 평가 특화 모델들은 언어나 도메인이 바뀌면 채점 성능이 급격히 떨어지는 한계가 있었다.

셀렉트스타가 채점 성능은 유지하면서 크기를 줄인 평가 특화 소형 모델 '이스타(E-Star) 12B'를 직접 개발한 이유다. 이 모델은 언어가 영어에서 한국어로, 분야가 일반에서 금융·법률로 바뀌어도 일관된 평가 성능을 낸다. 관련 논문은 최근 자연어처리 분야 국제 학회 ACL 2026 워크숍에 채택되기도 했다.

김 대표는 "E-Star 12B는 오픈AI 'GPT-5.5' 96% 수준으로 평가하면서도 크기가 작아 반복 평가에 드는 컴퓨팅 부담을 줄였다"며 "보안 규정상 외부 AI로 데이터를 보낼 수 없는 금융사 내부망에서 구동되는 점도 강점"이라고 부연했다. 

김세엽 셀렉트스타 대표가 지난 13일 서울 강남구 본사에서 지디넷코리아와 만나 인터뷰를 하고 있다. (사진=셀렉트스타)

기술 못지않은 차별점은 운영 방식에 있다. 셀렉트스타는 평가 지표 131종을 기본 제공하면서 사내 신뢰성 평가 전문가가 고객 도메인 전문가와 함께 지표를 새로 설계하는 컨설팅을 병행한다. 이 전담 인력만 전체 임직원 170명(5월 말 기준) 가운데 18명이다. 팔란티어의 전방 배치 엔지니어(FDE)처럼 고객 문제를 직접 풀며 얻은 경험을 제품에 쌓아 경쟁사들과의 격차를 벌리겠다는 전략이다.

김 대표는 "이 사이클을 얼마나 돌렸느냐가 결국 진입장벽"이라며 "해외에도 평가 플랫폼은 있지만 컨설팅까지 함께 제공하는 곳은 많지 않다"고 강조했다.

금융에서 쌓은 경험은 다른 산업으로 확장되고 있다. 공공·국방 분야에서는 일부 사업 수주가 확정돼 계약 절차를 밟는 중이다. 제조 분야에서는 AI 판단 오류가 물리적 사고로 이어질 수 있는 피지컬 AI를 겨냥해 사내 연구소가 평가 기술 연구개발에 들어갔다.

해외 시장은 미국과 일본, 중동 세 축으로 공략한다. 이미 지사를 둔 미국에서는 전략적 투자자인 세일즈포스와 협업 접점을 넓히고 있다. 일본의 경우 K-스타트업센터(KSC) 도쿄 입주 프로그램에 선정돼 지사 설립을 위한 거점부터 확보했다. 중동은 데이터센터부터 모델까지 국가 차원의 소버린(주권) AI를 추진하는 만큼 관련한 초기 협력 논의를 진행하고 있다.

김 대표는 "신뢰성 평가는 한 번 하고 끝나는 일이 아니라 AI를 운영하는 내내 반복적으로 돌아가는 구조"라며 "고객이 AI 서비스를 지속적으로 개선하도록 돕는 엔드투엔드 플랫폼을 만드는 것이 목표"라고 밝혔다.