"거짓말하는 AI ‘RAG42’로 방지”

인공지능(AI) 기업 포티투마루가 생성AI의 주요 단점으로 지목되는 환각현상을 해결하기 위한 기술을 공개했다.

김동환 포티투마루 대표는 26일 서울 삼성동 코엑스에서 열린 ‘퓨처테크 컨퍼런스 2023’에서 AI 환각 현상을 막는 RAG42를 선보였다.

환각 현상은 요청한 질문에 거짓말을 하듯 잘못된 정보를 제공하는 오류를 말한다. 생성AI가 제공하는 잘못된 정보를 그대로 받아들일 경우 의사 결정 과정에 문제가 발생하는 등 고객사에 부정적인 영향을 미칠 가능성이 크다.

이로 인해 생성AI가 엔터프라이즈 분야에서 저변을 확대하고, 핵심 기술로 자리잡기 위해 반드시 해결해야 할 요인 중 하나로 꼽힌다.

포티투마루에서 공개한 RAG42는 검색 증강 생성 기술(RAG)을 활용해 환각현상을 최소화하는 기술이다.

RAG는 방대한 양의 대규모 원천 데이터에서 AI가 필요로 하는 특정 정보나 지식만 정확하게 검색하는 기능이다. 이를 활용하면 대규모 데이터에서 필요한 정보만 수집해 정확한 답변이나 문장을 생성할 수 있다.

김 대표는 “RAG42를 활용하면 대규모 언어 모델(LLM) 활용의 핵심이 되는 스마트 임베딩, 딥러닝 기반의 검색, 인스트럭트 튜닝을 통한 프롬프트 엔지니어링 등의 자체 보유 기술로 환각 현상을 제거하여, 답변의 신뢰성을 확보하고 높은 품질과 성능을 보장한다”고 밝혔다.

이와 함께 포티투마루는 RAG 컨설팅부터 LLM 솔루션 구축까지 RAG42를 활용한 원스톱 서비스를 제공할 예정이다. 더불어 각 산업군별 도메인 특화 엔진 개발이 가능하도록 학습 데이터 구축부터 파인 튜닝까지 전과정도 지원한다.

김동환 대표는 “아무리 훌륭한 레시피가 있어도 재료가 신선하지 않으면 좋은 요리를 만들 수 없다”며 “RAG42는 원천 데이터에서 최적의 정보를 발굴하고 정제해 환각을 줄인 훌륭한 LLM 모델을 구축해 기업의 성장을 지원할 것”이라고 말했다.