서울시 행정에 생성형 AI 도입…클라이온, '챗봇 2.0' 사업 수주

내부 행정용 AI 통합 플랫폼 구축 추진…서울형 멀티 LLM 온프레미스 적용

클라이온이 서울특별시가 추진하는 '글로벌 AI 혁신 선도도시' 비전 실행에 박차를 가한다.

클라이온은 서울시의 '생성형 인공지능(AI) 기반 챗봇 2.0 구축 용역' 사업자로 최종 선정됐다고 10일 밝혔다.

이번 사업은 반복적인 행정 절차를 AI로 자동화해 시청 공무원들의 행정 효율을 높이고 맞춤형 AI 서비스 기반을 확산하고자 추진됐다. 이를 통해 생성형 AI 서비스를 행정 전반에 전면 도입해 내부 업무 혁신 체계를 새롭게 마련할 계획이다.

(사진=클라이온)

서울시가 추진하는 챗봇 2.0 사업은 내부행정을 지원하는 AI 통합 플랫폼 구축이 목표다. 이를 위해 클라이온은 더존비즈온의 '원 AI PE'를 활용하며 ▲AI 기반 지능형 '웹오피스' ▲S-문서박스(가칭) 기능 ▲통합 검색증강생성(RAG) 질의응답 ▲거대언어모델(LLM) API 및 공공행정 특화 LLM을 서울시 내부망에 온프레미스로 구축한다.

특히 내부 데이터 보안을 위해 70B(700억) 파라미터 이상 모델 1종을 포함한 2종 이상의 한국어 인식률이 높은 서울형 멀티 LLM이 온프레미스 방식으로 설치된다. 구축된 모델은 API를 통해 다른 행정 시스템에서도 활용이 가능하도록 지원된다.

구축된 플랫폼은 올 하반기 중 자원 사용량과 성능을 점검한 뒤, 그 결과를 바탕으로 내부 행정 시스템과 연계해 문서 자동화와 의사결정 지원 등 고도화된 기능으로 단계적 확대를 추진할 방침이다.

이와 함께 시민 대상 챗봇 서비스인 '서울톡'에도 생성형 AI가 시범 적용된다. 서울시 누리집 데이터를 RAG 기술로 학습한 퍼블릭 LLM이 답변을 생성해 기존 챗봇보다 한층 향상된 서비스 품질을 제공할 예정이다.

2021년 1월 설립된 클라이온은 디지털플랫폼정부(DPG) 위원회의 'DPG 허브' 생성형 AI 페르소나 챗봇 구축 사업을 비롯해 경기도·부산시·충남 등의 공공 AI 서비스 사업을 수행하며 공공 AI 및 클라우드 분야의 전문성을 입증해왔다.

박윤지 클라이온 대표는 "서울시의 AI 행정 혁신을 위한 핵심 사업에 참여하게 돼 막중한 책임감을 느낀다"며 "우리가 보유한 AI 기술력과 다양한 공공 사업에서 축적한 AI 전환(AX) 노하우를 집결해 공무원의 업무 효율성을 높이고 시민이 체감할 수 있는 AI 행정 서비스를 성공적으로 구현하겠다"고 밝혔다.