올거나이즈, 금융 특화 언어모델 ’알리 파이낸스 LLM' 출시

금융 상품 설명서·문서 업로드 후 질문 가능

올거나이즈가 금융에 특화 언어모델 '알리 파이낸스 LLM'을 출시했다고 19일 밝혔다.

알리 파이낸스 LLM은 메타의 라마2로 경량화한 금융 특화 소형언어모델(sLLM)이다. sLLM은 인간 두뇌 시냅스에 해당하는 매개변수 규모가 LLM보다 작지만 훈련을 위한 데이터나 시간, 비용 등이 상대적으로 적게 들어 특정 용도 AI 서비스 개발에 적합하다. 

알리 파이낸스 LLM은 매개변수 130억개 모델과 700억개 모델로 이뤄졌다. 사용자는 프로젝트 비용과 난이도에 따라 모델 크기를 자유롭게 선택할 수 있다.

알리 파이낸스 LLM 적용 화면. (사진=올거나이즈)

올거나이즈 측은 해당 모델이 금융 도메인에 특화된 데이터를 학습함으로써 금융 용어를 이해한다는 점을 강조했다. 예를 들어, 'LTV'라는 단어를 챗GPT에 물어볼 경우, 챗봇은 고객의 생애 기간 동안 기여하는 평균적인 가치를 나타내는 마케팅 지표인 '라이츠타임 밸류' 약어라고 답한다. 반면 알리 파이낸스 LLM는 금융 약관 등에 자주 나오는 담보 인정 비율(Loan to value) 약어라는 대답을 생성한다.

알리 파이낸스 LLM은 '알리' 플랫폼에 들어간 상태다. 인지검색 및 요약에 바로 사용 가능하다. 금융 용어를 이해하는 모델이 올거나이즈의 강력한 검색증강생성기술과 결합해 답변의 적합도를 높일 수 있다. 

사용자는 알리에 금융 상품 설명서, 경제 전망 보고서 등 원하는 문서를 업로드한 후, 특정 부분을 검색해서 찾아주거나 요약해 달라고 명령어를 입력하면 된다. 일부 페이지만 지정해서 검색 및 요약할 수 있으며, 수식이 들어간 복잡한 표에서도 원하는 내용을 찾을 수 있다.

올거나이즈는 알리 파이낸스 LLM가 최대 2주 안에 기업 전용 sLLM을 구축할 수 있다는 입장이다. 데이터 반출에 대한 보안 우려 없이 기업 전용 온프레미스 LLM 앱 마켓을 구축할 수 있도록 지원한다. 이로 인해 금융모델과 금융 쪽 업무 자동화에 특화된LLM 앱 마켓을 고객사의 전용 네트워크 환경에서 사용할 수 있다. 앱 마켓을 통해 금융 전문 용어뿐 아니라 기업 내부 용어나 약어가 반영된 업무 생산성 앱을 만들어 사용할 수 있다. 직군별 업무 자동화에 특화된 100개의 앱도 사전 등록돼 제공된다.

이창수 올거나이즈 대표는 "알리 파이낸스 LLM은 금융 특화 LLM과 앱 마켓을 동시에 제공해 도입 즉시 바로 실무 적용 가능하다"며 "올거나이즈는 금융 특화 sLLM 모델을 시작으로 보험, 제조업 등의 분야까지 사업 저변을 넓힐 것"이라고 전했다.