공공 AI 3조원 시대 눈앞…10년 새 11배 성장

생성형 AI·LLM 기반 행정 서비스 확산…중앙부처 쏠림·양극화는 숙제

공공부문 인공지능(AI) 시장이 지난 10년간 급성장하며 연간 계약 규모가 3조원에 육박한 것으로 나타났다. 단순 문서 처리와 데이터 분류 중심이었던 초기 AI 도입 단계를 넘어 최근에는 생성형 AI와 거대언어모델(LLM) 기반 행정 서비스 혁신으로 확산되는 모습이다.

다만 일부 중앙부처와 대형 사업 중심의 수요 쏠림, 지자체와 중소기업의 기술 격차, 더딘 클라우드 전환은 여전히 해결 과제로 지목됐다.

10일 소프트웨어정책연구소(SPRi)가 발표한 '2025년 공공부문 AI 도입현황 연구'에 따르면 지난 2024년 공공부문 AI 관련 용역 계약 금액은 2조 8207억원으로 집계됐다. 이는 2015년 2443억원 대비 약 11.5배 증가한 규모다. 같은 기간 계약 건수도 221건에서 1215건으로 약 5.5배 늘었다.

(사진=클립아트코리아)

지난 10년간 공공부문 AI 도입 계약은 총 6975건으로 조사됐다. 조사 대상 412개 공공기관 가운데 268개 기관(65%)이 AI를 도입한 것으로 나타났다. 연구진은 자체 ICT 시스템을 보유하지 않은 소규모 기관까지 포함된 점을 고려하면 실제 도입률은 더 높을 것으로 분석했다.

공공 AI 도입은 2016년 알파고 등장 이후 빠르게 확산됐다. 공공기관 전체 ICT 용역 계약에서 AI가 차지하는 비중도 금액 기준 2016년 3.33%에서 2020년 이후 10% 수준으로 확대됐다. 정책 분야별로는 전자정부와 민원 서비스 중심의 일반공공행정 분야 비중이 가장 높았고 공공질서·안전, 교통·물류, 문화·관광 분야 등이 뒤를 이었다.

기술 유형도 고도화되는 흐름이다. 초기에는 광학문자인식(OCR)과 텍스트 음성 변환(TTS) 같은 단순 기능 적용이 중심이었지만 최근에는 챗봇과 기계학습, 딥러닝 기반 서비스가 빠르게 늘었다. 보고서에 따르면 2024년 기준 챗봇 적용 사업은 325건, 기계학습은 208건, 딥러닝은 176건으로 집계됐다.

활용 목적도 내부 업무 효율화 중심에서 대민 서비스 중심으로 확대되는 추세다. 보고서는 딥러닝 기반 데이터 분류와 패턴 식별 중심의 '1차 사이클'이 마무리되고 있으며 생성형 AI 기반 '2차 사이클'이 시작됐다고 분석했다. 실제 생성형 AI 도입 계약은 2023년 24건에서 2024년 42건으로 75% 증가했다. 같은 기간 계약 금액도 478억원에서 695억원으로 늘었다.

생성형 AI 관련 핵심 키워드 변화도 나타났다. 제안요청서(RFP) 등에서 '챗GPT' 언급은 감소한 반면 '생성형 AI', 'LLM', '검색증강생성(RAG)' 등의 언급은 크게 증가했다. 연구진은 특정 상용 브랜드 중심에서 생성형 AI 기술군 자체에 대한 관심이 확산되는 흐름으로 해석했다.

다만 공공 AI 시장 확대 이면에는 구조적 한계도 드러났다. 국가기관과 준정부기관의 건당 평균 계약 금액은 각각 20억원 이상이었지만 지자체는 평균 10억 8000만원 수준에 머물렀다. 특히 지자체는 기존 시스템 유지관리 비중이 높아 신규 구축과 고도화 투자가 상대적으로 제한적인 것으로 나타났다.

공급기업 간 양극화도 확인됐다. 전체 AI 계약 건수의 87.6%를 중소기업이 수주했지만 건당 평균 계약 금액은 12억원 수준이었다. 반면 대기업 평균 계약 금액은 110억원에 달했다.

클라우드 기반 AI 도입 역시 아직 초기 단계라는 분석이다. 보고서는 디지털서비스 전문계약 제도를 통한 AI SaaS 도입이 증가하고 있지만 공공기관의 클라우드 전환 속도가 여전히 더디다고 진단했다. 이에 정부 차원의 기술·예산 지원 확대와 함께 생성형 AI 활용에 최적화된 클라우드 네이티브 전략이 필요하다고 제언했다.

SPRi는 "생성형 AI 확산과 함께 공공부문 AI 도입의 2차 사이클이 본격화되고 있다"며 "개별 기관 차원의 대응에는 한계가 있는 만큼 정부 차원의 기술·예산 지원과 클라우드 기반 AI 전환 전략이 필요하다"고 밝혔다.