포티투마루, 신기술 'RAG42'로 AI 모델 정확도 높인다

[2023 디미혁] 포티투마루, LLM의 환각 현상 제거하는 신기술 공식 출시…고객사 10여곳과 논의

포티투마루가 AI 챗봇 등에 활용되는 초거대 언어모델(LLM)의 정확도를 획기적으로 높일 수 있는 신기술을 공식 출시했다. 현재 10개 이상의 국내외 고객사와 공급을 논의 중인 것으로 알려졌다.

27일 포티투마루는 '대한민국 미래혁신대전 2023(이하 2023 디미혁)' 행사에 참여해 회사의 AI(인공지능) 기술에 대해 소개했다.

'2023 디미혁' 행사장 내 포티투마루 부스 전경(사진=장경윤 기자)

지난 2015년 설립된 포티투마루 앤서링 AI 전문 스타트업이다. 앤서링 AI는 컴퓨터가 인간의 언어를 이해할 수 있도록 해주는 자연어처리(NLP)를 기반으로 딥러닝을 진행해, 사용자의 질의에 답변하는 기술을 뜻한다. 다른 말로는 'QA(질의응답) 모델'이라고도 한다.

포티투마루는 앤서링 AI 구현을 위해 기업 특화형 LLM인 'LLM42'를 자체 개발해냈다. LLM42는 기존 LLM 대비 경량화된 버전으로, 솔루션 구축과 학습 등에 들어가는 비용을 절감할 수 있다.

특히 LLM42는 기존 챗GPT 등에 활용되어 온 LLM의 가장 큰 약점인 '환각(hallucination) 현상을 완벽하게 제거할 수 있다는 특징이 있다. 환각은 언어모델이 주어진 입력에 근거하지 않은 값을 출력하는 오류다.

포티투마루 관계자는 "LLM의 환각 현상을 방지하기 위해 기존 포티투마루가 강점을 가지고 있던 QA 기술을 적용했다"며 "질문이 들어오면 이를 AQ 엔진으로 검증하고, 이후 이를 기반으로 답변을 도출하는 구조"라고 설명했다.

최근에는 LLM 활용의 핵심이 되는 'RAG42'를 공식 출시하기도 했다. RAG(검색증강생성)는 방대한 양의 데이터로부터 AI가 필요로하는 특정 정보를 정확하게 검색해내는 기술이다. LLM은 이 RAG를 통해 답변을 도출하게 된다.

RAG42는 포티투마루가 자체 보유한 스마트 임베딩, 딥러닝 기반의 검색, 인스트럭트 튜닝을 등을 통해 환각 현상을 제거하고 답변의 높은 신뢰성을 확보한다. 

포티투마루 관계자는 "RAG는 검색과 생성이 결합된 기술로, AI 산업에서 매우 중요한 위치를 차지하고 있다"며 "현재 국내외 고객사 10곳 이상과 공급을 논의하고 있다"고 설명했다.