코난테크놀로지, 경기도 'G-GPT' 첫선…법률 AI로 공공시장 '정조준'

'AI 커넥트 위드 G-페어 2025'서 법률 특화 LLM 공개…KT와 온프레미스 기반 개발

코난테크놀로지가 경기도와 손잡고 자체 개발한 거대언어모델(LLM)을 앞세워 공공 인공지능(AI) 행정 시장을 공략한다.

코난테크놀로지는 수원컨벤션센터에서 열린 'AI 커넥트 위드 G-페어 2025'에 참가해 법률 특화 AI 에이전트 서비스를 선보였다고 24일 밝혔다. 전시 부스는 행사장 3층 로비 '경기도 소버린 AI 홍보관' 내에 마련됐다.

이번 참가는 코난테크놀로지가 수행중인 '경기 생성형 AI 플랫폼 구축사업'의 연장선이다. 이 사업은 경기도 자체 생성형 AI 플랫폼 'G-GPT'를 개발하는 프로젝트로, 코난테크놀로지는 지난 6월 KT와 컨소시엄을 구성해 131억원 규모로 수주했다.

코난테크놀로지가 경기도와 손잡고 자체 개발한 거대언어모델(LLM)을 앞세워 공공 인공지능(AI) 행정 시장을 공략한다. (사진=코난테크놀로지)

회사는 경기도의 엄격한 보안 정책을 충족하기 위해 외부망과 분리된 온프레미스 환경에서 경기도형 특화 LLM을 개발하고 있다. 이번에 공개된 법률·입법 질의응답 기능 역시 이 사업의 결과물 중 하나다.

서비스의 기반이 되는 '코난 LLM ENT-11'은 범용 질의응답과 고난도 추론 기능을 하나의 엔진으로 통합한 모델이다. 딥시크 'R1' 모델과 비교해 크기는 약 20분의 1에 불과하나 AI 모델의 성능을 측정하는 'MT-벤치' 점수는 평균 5.38% 더 높다. 특히 일반 기능과 추론 기능을 병렬로 구동하지 않고 통합 처리해 그래픽처리장치(GPU) 자원을 50% 이상 절감한다. 고객사는 기존 대비 절반 수준의 비용으로 2배 이상의 추론 성능을 확보할 수 있다.

김영섬 코난테크놀로지 대표는 "경기도형 소버린 AI 기반 혁신행정을 널리 알리겠다"며 "우리 LLM 기반의 법률 특화 서비스를 통해 공공 행정업무효율 개선에도 힘을 보태겠다"고 밝혔다.