AI 학습데이터, 개방 전 민감·개인정보부터 검증한다

통합제공체계 개방 대상·후보 데이터 사전 점검…개인정보 발견 시 비식별 조치

정부가 인공지능(AI) 학습·연구 등에 활용할 수 있도록 개방한 AI허브가 'AI학습용 데이터 통합제공체계'로 전환을 앞둔 가운데, 새 체계에서 개방할 대상 및 후보 데이터의 개인정보를 사전에 검증한다.

공개 대상 데이터에 개인정보나 민감정보가 남아 있는지 검증하고, 발견될 경우 추가 비식별화해 공개 데이터의 안전성과 신뢰성을 확보한다는 취지다.

29일 업계에 따르면 한국지능정보사회진흥원(NIA)은 AI학습용 데이터 통합제공을 위한 대상 및 후보 데이터 개인정보 검증을 발주할 예정이다. 사업 예산은 3억원 규모이며 계약 체결일부터 오는 12월까지 약 두 달간 진행된다. 현행 AI허브는 통합제공체계로 전환될 예정이다.

대상은 텍스트·이미지·영상 등 멀티모달 형태의 통합제공체계 대상 및 후보 데이터다. NIA는 수행사에 그래픽처리장치(GPU)·클라우드·서버 등 인프라를 별도로 제공하지 않고 자체 인프라를 확보해 사업을 수행하도록 했다.

AI허브 데이터 홈페이지 갈무리 (사진=AI허브)

AI허브는 정부가 AI 기술·제품·서비스 개발에 필요한 데이터를 제공하기 위해 운영하는 국가 AI 데이터 플랫폼이다. 정부는 지난 4월 공공부문이 보유한 AI 학습용데이터를 대상으로 범부처 첫 전수조사에 착수했다. 

이어 범부처 차원에서 공공부문이 보유한 AI학습용 데이터를 통합·연계하기 위한 '통합제공체계' 구축을 추진 중이다. 이번 사업은 해당 통합제공체계를 통해 개방될 대상과 후보 데이터를 한곳에 모아 사전 개인정보 및 민감정보 검증, 비식별 조치를 수행함으로써 안전하고 신뢰성 높은 AI데이터 개방 환경을 조성하는 것이 핵심이다. 

이번 검증에서는 텍스트·이미지·영상 등 데이터 유형별로 개인정보와 민감정보가 남아 있는지를 확인한다. 이름·연락처 같은 정보뿐 아니라 이미지·영상에 포함된 얼굴, 차량번호판 등 식별 가능 정보도 점검 대상이다.

NIA는 우선 데이터셋별 샘플을 추출해 자동·수동 방식으로 개인정보와 민감정보 잔존 여부를 확인한다. 관련 정보가 탐지된 데이터셋은 전체를 대상으로 정밀 검수하고, 재탐지된 정보에 대해서는 데이터 유형별 특성에 맞춰 추가 비식별화를 실시한 뒤 적정성도 검증한다.

배경훈 부총리 겸 과학기술정보통신부 장관이 28일 서울 여의도 국회에서 열린 제439회 국회(정기회) 법제사법위원회 제8차 전체회의에 출석해 의원 질의에 답하고 있다. 2026.9.28 (사진=뉴스1)

사업은 11월 개인정보 탐지·비식별화와 정밀 검수 및 적정성 평가를 진행한 뒤 12월 검증 결과 보고 및 데이터셋 업로드를 완료하는 일정이다. 데이터셋 각각에 대해 개인정보 탐지 결과와 조치 전, 후 샘플, 적용한 비식별화 기법, 적정성 검증 결과 등을 보고한다.

정부는 AI 학습용 데이터의 활용을 확대하는 동시에 개인정보 등 권리 보호 수준을 높이려는 움직임에도 속도를 낸다. 전날 국회 법제사법위원회는 각 부처와 기관에 분산된 AI 학습용 데이터를 한곳에서 관리하고 민간에 제공하는 '통합제공시스템' 구축 근거를 담은 AI기본법 개정안을 의결했다.

배경훈 부총리 겸 과학기술정보통신부 장관은 지난 28일 통합 데이터 플랫폼 구축과 관련해 "권리 침해가 발생할 수 있는 정보는 사전에 삭제하거나 제외하는 계획을 추진하겠다"며 "국민들이 안심하고 신뢰할 수 있도록 데이터 안전 관리 체계를 더욱 강화하겠다"고 말했다.