정부, '일하는 AI' 생태계 만든다…"안전 기준·산업 실증 구체화"

정부가 인공지능(AI) 모델을 실제 업무·서비스에 연결하는 '에이전틱 AI 생태계' 청사진을 구체화했다.

과학기술정보통신부는 22일 열린 제11회 과학기술관계장관회의에서 관계부처 합동 '에이전틱 AI 이니셔티브'를 발표했다. 이번 전략은 AI 안전·신뢰 확보와 개방형 실행 기반 조성, 수요 중심 도입 촉진으로 이뤄졌다.

에이전틱 AI는 이용자가 제시한 목표에 따라 스스로 계획을 세우고 외부 시스템과 도구를 활용해 업무 실행하는 기술이다. 정부는 AI 경쟁 중심이 우수한 모델을 보유하는 데서 데이터와 시스템, 업무 흐름을 연결해 실제 결과를 만드는 역량으로 확대되고 있다고 진단했다.

정부는 이번 이니셔티브를 통해 에이전틱 AI 권한 오남용과 보안 위협, 민감 데이터 유출 대응을 위한 안전·신뢰 관리 체계를 구축한다. 개인정보 보호와 AI 권한 관리, 목표 이탈 방지 등 고유 위험을 반영한 '에이전틱 AI 안전·신뢰 가이드라인'을 연내 마련할 방침이다.

또 에이전트 성능과 안전성을 평가할 수 있는 데이터셋과 시나리오, 벤치마크 도구도 구축할 계획이다. AI 에이전트가 수행한 행위 책임을 명확히 하기 위해 신원 확인과 관리 방안, 책임 소재도 에이전틱 AI 얼라이언스 중심으로 검토한다.

국내 환경에 맞는 개방형 실행 생태계도 조성된다. 이를 통해 국민이 일상·업무에서 반복 활용할 수 있는 생활 밀착형 AI 에이전트와 도구 개발을 지원하고, 신뢰할 수 있는 서비스를 연결·유통하는 민간 마켓플레이스 구축을 뒷받침한다.

정부는 AI 모델과 추론 시스템, 에이전트, 외부 도구를 통합 관리하는 'AI 운영체제(OS)' 핵심 기술도 개발한다. 멀티에이전트 협업과 반복 모델 호출로 연산량이 늘어나는 문제에 대응하기 위해 토큰 효율을 높이고 컴퓨팅 자원을 최적화하는 실행 운영 기술을 확보할 방침이다.

과기정통부는 국산 AI 모델의 에이전틱 AI 성능을 높이기 위한 그래픽처리장치(GPU)와 데이터 지원도 추진한다. 서비스 개발 기업이 특정 모델에 종속되지 않고 목적에 맞는 AI 모델과 도구를 선택할 수 있는 환경을 마련하겠다는 목표다.

"국민·기업 체감형 AI 프로젝트 운영할 것"

국민과 산업 현장 수요 기반으로 에이전틱 AI 도입도 확대한다. 특히 '모두의 AI 프로젝트'로 범용 AI 챗봇과 국민 수요에 맞춘 특화 에이전트 서비스를 제공할 계획이다. 이를 통해 국민이 개인 AI 에이전트를 일상과 경제활동에 활용하도록 지원한다.

정부는 AI 모델 기업과 인프라 기업, 서비스 개발사, 수요 기업이 참여하는 'AI 에이전트 플래그십 프로젝트'를 추진한다. 미디어와 물류, 핀테크, 에듀테크, 리걸테크, 에너지, 헬스케어 등 에이전틱 AI 도입 효과와 해외 확장 가능성 큰 분야를 중심으로 서비스 개발과 실증을 지원할 계획이다.

기업이 AI 에이전트를 직접 도입·운영할 수 있게 진단과 위험 관리, 운영 체계 수립을 위한 전문 컨설팅도 구축된다. 산업별 서비스와 기업 현황을 담은 'AI 에이전트 산업 지도'를 마련하고 기존 규제로 실증이 어려운 서비스에는 정보통신기술(ICT) 규제샌드박스를 연계한다.