몽고DB "AI 실서비스 전환, 데이터 연결·운영 이력 관리가 관건"

"기업이 인공지능(AI)으로 실서비스를 만들려면 데이터 현대화와 데이터 간 맥락 연결, 에이전트 운영 이력 관리를 만드시 갖춰야 합니다. AI 모델이 기업 데이터를 정확히 찾아 활용하고, 작업 과정까지 추적할 수 있는 기반이 필수입니다."

김규동 몽고DB 솔루션 아키텍트 총괄은 8일까지 서울 코엑스에서 열리는 'AI페스타 2026'에서 AI 실서비스 전환 과제를 이같이 제시했다.

김 총괄은 기업 AI 프로젝트가 시범 도입에 머무르는 원인으로 데이터 확장성 한계와 검색 정확도 부족, 에이전트 통제 체계 미비를 꼽았다. 이를 해결하기 위해 정형·비정형 데이터 관리부터 검색, 메모리 저장까지 통합한 플랫폼이 필요하다고 강조했다.

김 총괄은 데이터 현대화를 위한 방안으로 유연한 다큐먼트 데이터 모델을 제시했다. 정해진 테이블 구조에 맞춰 데이터를 관리하는 방식에서 벗어나 다양한 데이터와 관련 정보를 JSON 형태의 문서로 표현해 변화하는 개발 요구에 빠르게 대응할 수 있다는 설명이다.

김 총괄은 데이터 간 맥락을 연결하는 작업도 주요 과제로 제시했다. 제조 현장에서 설비 장애가 발생했다면 당시 생산 품목과 공정, 이전 단계의 작업 정보를 함께 파악해야 원인을 진단할 수 있다는 이유에서다.

그는 "개별 데이터를 저장하는 데 그치지 않고 서로 어떤 관계가 있는지 연결해야 AI가 필요한 정보를 찾을 수 있을 것"이라고 강조했다.

김 총괄은 의미 기반 벡터 검색과 키워드 검색, 메타데이터 필터링을 결합해 검색 정확도를 높일 수 있다고 주장했다. 이는 질문 의미와 관련된 정보를 찾으면서 검색 범위를 특정 설비나 공정 등으로 좁혀 거대언어모델(LLM)에 적절한 데이터를 전달하는 방식이다.

그는 몽고DB 솔루션 특장점으로 AI 애플리케이션 개발 기능을 통합한 점을 짚었다. 임베딩 모델과 검색 결과의 관련성을 재평가하는 리랭킹, 벡터 검색 등을 함께 제공해 기업이 여러 구성 요소와 데이터 전달 경로를 각각 구축하는 부담을 줄인다는 구상이다.

또 김 총괄은 이날 3500개 넘는 문서 자산으로 검색증강생성(RAG) 챗봇 시제품을 6일 만에 구축한 사례를 소개했다. 이 제품은 문서를 검색 가능한 데이터로 전환하고, 사용자 질문과 관련된 내용을 찾아 LLM이 답변하도록 구성한 것이 특징이다.

더불어 그는 실제 챗봇 운영 단계에서 에이전트 메모리와 작업 이력 관리가 중요하다고 재차 강조했다.

김 총괄은 "에이전트가 받은 입력과 수행한 작업, 결과 등을 데이터베이스(DB)에 저장해야 의도대로 작동했는지 확인할 수 있다"며 "문제가 발생했을 때 원인까지 추적할 수 있다"고 설명했다.

관련기사