데이터스트림즈, 한국도로공사 내부 LLM 고도화

이영상 대표 "'단발성' 공공 LLM 한계 넘어 ‘업무 성과형 AI’ 구현"

국내 공공 AI 사업에서 단발성 질의응답에 머물던 기존 LLM 서비스의 한계를 근본적으로 개선한 사례가 등장했다.

지능형 데이터 플랫폼 전문기업 데이터스트림즈(대표 이영상)는 과거 AI 전문기업이 구축한 한국도로공사 내부 LLM을 고도화하는 사업을 성공적으로 수행, ‘한 번 묻고 끝나는 AI’ 구조를 실제 업무 성과로 이어지는 형태로 전환했다고 9일 밝혔다.

이번 고도화 사업은 단순한 AI 기능 개선을 넘어, 한국도로공사가 데이터 기반 디지털 혁신 성과를 인정받아 대통령상을 수상하는 데에도 의미 있는 기여를 했다고 회사는 밝혔다.

데이터스트림즈에 따르면, 그동안 다수 공공기관에 도입된 AI 서비스는 ▲질문 단위로 끊어지는 활용 방식 ▲검색 결과 요약 수준 응답 ▲업무 맥락이 누적되지 않는 구조로 인해 현업에서 반복적으로 활용되기 어려움 등의 한계를 보여 왔다. 특히 현업에서는 앞선 설명을 반복해야 하거나 업무를 여러 단계로 나눠 반복 요청해야 하는 문제가 발생하면서 실질적인 업무 활용성이 낮다는 지적이 꾸준히 제기돼 왔다.

데이터스트림즈는 이번 고도화 사업에서 AI 응답 성능 자체보다 AI가 어떤 데이터를 기반으로 판단하는 지가 성과를 좌우한다고 보고 접근 방식을 전환했다. 이를 위해 업무 관점에서 데이터 기준과 의미를 재정의하고, 오류·중복·해석 차이를 사전에 제거하는 한편 AI가 신뢰 가능한 판단을 내릴 수 있도록 데이터 품질 관리 및 거버넌스 체계를 전면적으로 정비했다.

그 결과 AI는 단편적인 질문에 반응하는 수준을 넘어 업무 맥락을 유지한 상태에서 결과 도출까지 지원하는 방식으로 활용될 수 있게 됐다.

데이터스트림즈 AI전략사업본부 이종헌 본부장은 “최신 LLM을 적용하는 것만으로는 공공 AI의 실질적 성과를 창출하기 어렵다”며 “AI가 무엇을 기억하느냐보다 오류 없이 판단할 수 있도록 어떤 데이터를 제공하느냐가 핵심”이라고 말했다. 이어 “이번 사례는 공공 AI가 단순 기술 시연을 넘어 현업에서 신뢰하고 반복 사용하는 업무 도구로 전환될 수 있음을 보여준 대표적인 사례”라고 강조했다.

이번 사례를 계기로 공공 AI 도입 기준이 최신 기술 적용 여부에서 실제 업무 성과 창출 구조 중심으로 이동할 가능성에 시선이 쏠렸다. 데이터스트림즈는 향후 도로·교통·국방·의료·금융 등 고신뢰 데이터가 필수적인 산업 분야를 중심으로 데이터 품질과 거버넌스를 기반으로 한 실무형 AI 모델 확산에 나설 계획이다.