[AI 리더스] 'NIA 수장' 김형철 "AI 정부 하나로 연결…'OO24' 찾아다니는 시대 끝낼 것"

NIA, 공공 AI 서비스 지원사업 내년 2배 확대…"뼛속까지 전문가인 집단으로 만들 것"

"이제는 국민이 정부24 등 'OO24' 같은 행정 서비스를 각각 찾아다니는 일을 없애고 한 곳에서 업무를 해결할 수 있어야 합니다. 여러 정부 시스템을 서로 연결하고, 국민이 하나의 인공지능(AI)을 통해 필요한 행정 서비스를 이용할 수 있도록 앞으로 더 노력하겠습니다."

김형철 NIA 원장은 12일 지디넷코리아와 만나 자신이 구상하는 AI 정부의 모습을 이같이 설명했다. 전자정부와 디지털정부를 거치며 현재 상당수 행정 업무를 온라인으로 처리할 수 있게 됐지만, 국민이 여전히 업무마다 담당 기관과 서비스를 직접 찾아야 하는 구조에서 벗어나야 AI 정부로 한 단계 더 나아갈 수 있다고 봐서다.

김형철 NIA 원장 (사진=NIA)

김 원장이 구상하는 AI 정부의 핵심은 기존 행정 시스템을 없애는 것이 아니라 서로 연결해 국민에게 하나의 서비스처럼 제공하는 것이다. 각 부처와 기관이 보유한 시스템과 데이터는 그대로 활용하되, AI가 국민의 요구를 파악해 필요한 정보와 서비스를 찾아주는 방식이다.

국민이 가장 먼저 체감할 변화로는 AI 국민비서와 AI 통합민원플랫폼을 꼽았다. AI 국민비서는 국민이 익숙한 민간 앱에서 대화를 통해 필요한 행정서비스를 이용하도록 하고, AI 통합민원플랫폼은 여러 기관을 찾아다니지 않고 한 곳에서 민원을 안내받고 처리할 수 있도록 하는 것이 목표다.

이를 위해 김 원장은 중앙정부와 지방정부, 각 부처에서 추진하는 AI 사업을 아우르는 공통 아키텍처가 필요하다고 봤다. 지역과 기관마다 제공하는 서비스는 달라도 데이터와 시스템이 연결되는 방식까지 제각각이면 같은 시행착오가 반복되고 향후 서비스 간 연계도 어려워질 수 있어서다.

그는 "지방자치는 행정에서는 옳지만, 시스템에서는 다르게 봐야 한다"며 "서비스는 각 지역에 맞게 달라질 수 있지만 시스템이 돌아가는 파이프라인과 레이어에 대해서는 통일된 그림이 필요하다"고 말했다.

공통 아키텍처 넘어 실행까지…NIA, 내부 체계 재정비

NIA는 이 같은 구상을 뒷받침하기 위해 현재 행정안전부, 과학기술정보통신부와 범정부 AI 공통기반을 구축했다. 중앙·지방정부가 행정망 안에서 생성형 AI를 활용할 수 있도록 AI 플랫폼과 모델, 서비스 개발도구, 학습·검색증강생성(RAG)용 데이터 등을 공동으로 제공하는 환경이다.

범정부 AI 공통기반에는 추론, 멀티모달 및 독자 파운데이션 모델 등 현재 약 30여종의 AI 모델을 제공할 수 있으며 이 중 10종이 실제 서비스되고 있다. 또 이달 기준 약 9만8000명의 공무원이 가입해 행정문서 초안 작성과 법령·행정지식 검색 등에 활용하고 있다.

AI 정부의 공통 아키텍처를 그리기 위한 밑작업은 김 원장 취임 후 NIA 내부에서도 빠르게 진행되고 있다. 김 원장이 각 부서가 현재 수행하는 사업뿐 아니라 앞으로 해야 할 일과 해결해야 할 과제까지 한눈에 볼 수 있도록 전체 그림을 그릴 것을 주문한 것이 주효했다.

그는 "NIA에 와서 업무를 파악해 보니 밖에서 봤던 것보다 훨씬 다양하고 방대했다"며 "이 때문에 잘못하면 일이 여러 방향으로 갈 수 있어 지도를 잘 그리는 것이 중요하다고 생각했다"고 설명했다.

이어 "현재 하는 일을 지도에 놓아보면 이미 하고 있는 부분과 미처 생각하지 못한 부분, 필요하지만 법·제도나 규제 때문에 하지 못한 부분이 보인다"며 "이를 바탕으로 우리가 가려는 방향에서 무엇이 더 필요한지 판단하고, 정부에도 필요한 정책과 사업 방향을 제안할 수 있다고 생각했다"고 부연했다.

김형철 NIA 원장 (사진=NIA)

이 같은 구상은 현재 NIA가 추진 중인 공공 AX 사업에도 반영되고 있다. NIA는 지난 4월 김 원장 취임 직후 공공AI사업지원센터를 출범시키고 중앙부처와 지방정부 수요를 바탕으로 12개 공공 AI 사업을 추진하고 있다. 

정부는 '세계 최고 AI 민주정부 실현'을 위해 30대 핵심과제 이행관리, 선제적 맞춤서비스 구현 등 세부 국정과제를 추진 중이지만, 일선 기관에서는 AI 사업 기획과 데이터 확보, 기술 검증 등에서 어려움을 겪어왔다. 사업지원센터는 이러한 현장 애로를 해소하는 데 초점을 맞췄다.

김 원장은 "부처의 요구사항에서 무엇을 풀어야 하는지까지 업체에 모두 고민시키는 것은 무리"라며 "어떻게 풀어야 하고 어느 방향으로 가야 하는지는 NIA가 고민해야 한다"고 말했다.

그러면서 "사업자를 선정하고 시스템을 만드는 것은 시작에 불과하다"며 "제안요청서(RFP)대로 구축됐다는 것이 목표가 아니라, 그 서비스를 필요로 했던 부처와 혜택을 받는 국민이 얼마나 변화를 체감하느냐가 목표가 돼야 한다"고 강조했다.

NIA에 따르면 올해 추진 중인 12개 사업은 연말께 1차 결과물이 나올 예정이다. NIA는 실제 행정 현장에서 업무시간 단축과 오류 감소, 국민 체감도 등 성과가 확인된 사업을 다른 부처와 지방정부로 확산할 계획이다.

내년에는 사업 규모도 대폭 늘린다. NIA는 현재 12개인 공공 AI 서비스 지원사업 규모를 약 2배 수준으로 확대하는 방향을 준비하고 있다. 새로운 개념의 개념검증(PoC)을 사업 앞단에 도입해 AI 적용 가능성을 먼저 확인하고, 올해 성과가 검증된 사업의 확장도 함께 추진할 방침이다.

김 원장은 "올해 말이 공공 AI 사업을 본격적으로 확대하기 위한 중요한 분기점이 될 것으로 본다"며 "그때가 되면 다음에 무엇을 해야 할지가 지금보다 훨씬 선명해질 것이고, 이후에는 더 머뭇거리지 않고 자신감 있게 추진할 수 있을 것"이라고 말했다.

AI 정부 막는 '데이터 장벽'…메타데이터·MCP로 해결

김 원장은 AI 정부가 실제 현장에서 작동하려면 서비스 확대와 함께 이를 뒷받침할 공공데이터 체계도 달라져야 한다고 봤다. AI 모델이나 에이전트가 아무리 고도화돼도 필요한 데이터를 제때 찾고 연결하지 못하면 국민이 체감할 서비스를 만들기 어렵기 때문이다.

현재 공공데이터는 기관별로 형식과 용어가 다르고 필요한 정보를 불러오는 방식도 제각각인 경우가 적지 않다. 이 탓에 데이터가 공개돼 있더라도 AI가 해당 데이터의 의미를 파악하거나 여러 정보를 자동으로 연결해 활용하는 데 한계가 있다.

그는 "사람도 데이터를 찾아 연결하기 어려운 상황인데 에이전트가 와서 이를 뒤져 필요한 정보를 가져간다는 것은 쉽지 않다"며 "현재 현실과 우리가 나아가야 할 방향의 거리가 너무 먼 것이 가장 걱정"이라고 말했다.

김형철 NIA 제16대 원장 (사진=NIA)

이에 김 원장은 공공데이터의 형식뿐 아니라 메타데이터와 요약정보까지 일정한 기준으로 정비해야 한다고 강조했다. AI 에이전트가 데이터 전체를 일일이 확인하지 않아도 어떤 내용을 담고 있는지 먼저 파악한 뒤 필요한 정보에 접근할 수 있도록 만들어야 한다는 것이다.

또 모델컨텍스트프로토콜(MCP)을 활용한 데이터 연계 체계도 필요하다고 봤다. 각 기관의 데이터를 AI가 호출할 수 있도록 표준화하고, 어떤 데이터가 어디에 있는지 찾아주는 게이트웨이까지 갖춰야 AI 에이전트가 여러 공공데이터를 넘나들며 업무를 수행할 수 있다고 판단해서다.

김 원장은 "메타데이터의 규격이 정해져 있어야 하고 데이터가 무엇을 설명하는지 알려주는 요약도 매우 중요하다"며 "MCP와 이를 관리하는 게이트웨이를 갖춰 에이전트가 필요한 데이터를 스스로 찾아 활용할 수 있도록 해야 한다"고 설명했다.

그러면서 "현재 공공 행정 데이터가 에이전트 친화적으로 준비돼 있지 않고서는 AI 정부로 갈 수 없다"며 "NIA가 포맷과 메타데이터 규격 등을 제시하면서 이를 개선해 나가는 역할을 해나갈 것"이라고 강조했다.

AI 에이전트 직접 만드는 NIA…조직문화도 '실전형' 전환

공공데이터와 AI 활용 방식에 대한 변화는 NIA 내부 업무 방식에도 영향을 주고 있다. 김 원장이 직원들이 정책과 사업을 문서로만 검토하는 데 그치지 않고 직접 AI를 써보고 필요한 도구를 만들어보는 경험이 중요하다고 강조한 것도 한 몫 했다.

실제 NIA 내부에선 바이브 코딩과 AI 에이전트 개발, 외부 해커톤 참여가 빠르게 늘고 있다. 직원들이 각자 업무에 필요한 도구를 직접 만든 뒤 내부에 공유하고, 함께 개발할 수 있는 오프라인 공간도 마련했다.

NIA에 따르면 현재 해커톤과 에이전트 개발 등에 참여하고 있는 사례는 40여 건에 달한다. 특히 젊은 직원들이 자발적으로 문제를 찾고 AI를 활용해 해결책을 만드는 과정에 적극적으로 참여하고 있다.

앞서 재난 데이터 업무에서도 이런 변화가 나타났다. 김 원장이 재난 대응에 필요한 전체 데이터를 살펴볼 것을 주문하자, 담당 직원이 강수량과 배수시설 정보, 대응 지침 등을 연결하는 수준에서 한발 더 나아가 직접 AI 에이전트 시제품까지 개발한 것이다.

김 원장은 "거기까지 기대하지 않았는데 담당자가 한 달가량 직접 에이전트를 만들어버렸다"며 "우리가 어떤 질문을 가지고 문제에 접근하느냐에 따라 결과가 달라질 수 있다는 사례를 보여준 것"이라고 강조했다. 이어 "이런 방식이 다른 업무에도 확산되면 AI 정부의 기초 체력도 함께 올라갈 수 있을 것"이라고 덧붙였다.

김형철 NIA 원장 (사진=NIA)

김 원장은 직원들의 자발적인 참여를 끌어내기 위한 분위기 조성에도 공을 들이고 있다. NIA 내부에선 직원이 외부 공모전이나 해커톤에서 성과를 내면 이를 전 직원이 공유하는 자리에서 소개하고 격려하는 방식으로 참여를 독려하고 있다.

또 그는 직접 기술을 써본 경험이 NIA의 전문성을 높이는 데 중요하다고 봤다. 공공기관과 지방정부의 AI 사업을 지원하려면 내부 구성원부터 기술의 가능성과 한계를 스스로 이해해야 한다고 주장했다.

김 원장은 "NIA가 다루는 분야에서 '뼛속까지 전문가인 집단'이라는 말을 듣고 싶다"며 "그냥 사업을 하는 사람들이 아니라 직접 해보고, 그 경험으로 정책을 그리는 사람들이라는 평가를 받고 싶다"고 말했다.

그러면서 "지자체나 정부 부처가 처음에는 막연하게 아이디어를 던지더라도 NIA의 손을 거치면 제대로 국민 피부에 닿는 물건으로 나와야 한다"며 "NIA는 그런 조직이라는 말을 앞으로 듣고 싶다"고 강조했다.