이스트소프트, JDC 내부망에 AI 구축…공공시장 확대

6개월간 내부 서버에 언어모델·업무별 챗봇 구축…보안 규정 맞춤형

이스트소프트가 공공기관 내부 자료를 활용해 문서 검색부터 업무 실행까지 지원하는 인공지능(AI) 플랫폼 구축에 나선다. 

이스트소프트는 제주국제자유도시개발센터(JDC)가 발주한 '사내 생성형 AI 언어모델(sLLM) 구축 사업'을 수주했다고 21일 밝혔다. 계약일로부터 6개월간 JDC 내부 서버에 언어모델과 AI 에이전트를 결합한 업무지원 플랫폼을 구축할 방침이다.

이번 사업은 보안과 개인정보 관련 규정으로 외부 인터넷 기반 생성형 AI 서비스에서 활용하기 어려웠던 기관 자료를 내부에서 활용하는 데 초점을 맞췄다. 부서별로 흩어진 업무 지식을 연결해 임직원이 필요한 정보를 찾고 근거에 기반해 판단하도록 지원한다.

이스트소프트가 공공기관 내부 자료를 활용해 문서 검색부터 업무 실행까지 지원하는 인공지능(AI) 플랫폼 구축에 나선다. (사진=이스트소프트)

업무지원 챗봇은 개발사업·면세사업·예산·안전관리·계약·인사 등 주요 업무별로 구축한다. 일상적인 질의응답에는 매개변수 300억 개 이상 모델을 적용하고 복잡한 장문 추론에는 1200억 개 이상 모델을 활용해 업무 성격에 맞춰 대응한다.

이스트소프트는 약 3.8테라바이트(TB) 규모 내부 문서를 AI가 검색할 수 있도록 처리하는 검색증강생성(RAG) 기반 문서검색 서비스도 제공한다. 전사콘텐츠관리시스템(ECM) 등 기존 시스템과 외부 데이터를 연동해 답변에 최신 정보를 반영할 계획이다.

회사는 질문에 답하는 기능을 넘어 실제 업무를 처리하는 AI 에이전트도 도입한다. 응용프로그램 인터페이스(API)를 호출해 업무를 실행하고 여러 에이전트가 협업하는 과정을 설계·실행할 수 있는 '에이전트 빌더'를 제공한다. JDC가 향후 AI 활용 범위를 자체적으로 확대할 수 있도록 지원하는 방식이다.

폐쇄망에 맞춘 보안·모니터링 체계와 언어모델 운영관리 체계도 구축한다. 답변의 근거 문서를 함께 제시하고 실제 업무 처리까지 연결해 현장에서 체감할 수 있는 효율화를 이끌겠다는 목표다.

이스트소프트는 AI 서비스 '앨런'을 통해 확보한 에이전틱 AI 기술과 제한된 자원을 효율적으로 활용하는 AI 오케스트레이션 역량을 투입할 계획이다. 약 30년간 축적한 보안 사업 경험도 활용한다.

정상원 이스트소프트 대표는 "이번 사업은 보안이 중요한 공공기관에서도 생성형 AI를 안전하고 실질적으로 활용할 수 있다는 것을 보여주는 사례가 될 것"이라며 "앨런을 통해 쌓아온 에이전틱 AI 역량을 바탕으로 JDC의 업무 혁신을 성공적으로 지원하고, 공공 AI 시장에서의 입지를 빠르게 확대해 나갈 것"이라고 말했다.