AI교과서, 개인정보 처리 미흡 판정

갈길 먼 AI 디지털교과서(AIDT)가 개인정보 취급 미흡이라는 악재까지 만났다.

개인정보보호위원회(위원장 고학수)는 14일 제11회 전체회의를 열고, AI 디지털교과서(AIDT)에 대한 개인정보보호법(보호법) 사전 실태점검 결과를 심의, 의결했다. 사전 실태점검은 개인정보 보호 취약점을 선제적으로 점검해 침해 위험을 사전에 예방하는 제도다. 법 위반사항 및 개선 필요사항 발견 시 시정 또는 개선권고(보호법 제63조의2)를 한다.

■ 왜 점검을?

지난 3월부터 운영 중인 AIDT 서비스는 종이 교과서와 다르게 학생별 학습 이력을 데이터베이스화해 저장하고 개인 맞춤형 콘텐츠를 제공하는 등 개인정보 처리가 필요하다. 이에 개인정보위는 AIDT의 개인정보 침해여부를 점검하고자 서비스 제공에 관여하는 기관들을 대상으로 사전 실태점검을 했고, 주요 점검 결과는 다음과 같다.

사전실태 점검 대상은 교육부(주관부처)를 비롯해 한국교육학술정보원(AIDT 통합포털 운영기관, 이하 ‘KERIS’), 출판사(각 과목 ‘AIDT 웹’ 서비스 제공·운영, 이하 ‘개발사’) 등이다. 개발사의 경우 시스템 구조 및 처리되는 정보가 유사해 총 12개사 중 3개사를 대표 사례로 점검했다.

■ 사전 실태점검 결과는?

① 개인정보 처리의 적법성·투명성 관련:시정권고(KERIS)

첫째, AIDT의 경우 개인정보 처리 관련 명확한 근거 법령이 없어, 보호법 상의 정보주체의 동의, 계약이행을 위한 처리 등을 근거로 개인정보를 처리하고 있다. 이런 경우, 개인정보 처리동의서, 개인정보 처리방침 등에 각각 처리하는 개인정보의 항목, 목적, 보유기간 등을 정보 주체가 알 수 있도록 투명하게 기재해야하지만, 일부 사항은 기재가 누락 된 사실이 발견됐다.

▸(미흡사례) 민원처리 과정에서 수집·이용·제공되는 항목(연락처, 상담내용 등)에 대한 고지 누락 등 발생

둘째, AIDT 통합포털(KERIS) 내부에는 학습데이터 저장소(HUB)가 구축돼 있는데, 여기에는 각 개발사로부터 제공받은 학생별 학습콘텐츠 이용내역 데이터(이하 ‘국가수준학습데이터셋’)가 통계목적(통합 대시보드 구성 등) 또는 향후 인공지능 기반 학습분석 목적 등을 위해 저장되고 있었다.

이처럼 학생 개개인의 상세한 학습(행동) 정보가 통합 DB(데이터베이스)에 쌓일 경우 개인정보자기결정권 침해 우려가 있으므로, 보호법에 따라 처리하고자 하는 필요 최소한의 정보를 선정해 처리되는 개인정보의 항목별 명확한 목적 등 정당한 처리이익을 제시해야 하지만 이 부분이 미흡했다.

▸(미흡사례) 점검결과, 현재(’25년 상반기) 기준 국가수준학습데이터셋은 단순 통계분석(예: AIDT 통합포털 내 진도율, 성취도 등 대시보드 구성) 목적으로 활용 중이며, 향후(’25년 하반기~) 활용계획(AI 학습분석 등)에서도 처리되는 항목 및 구체적 처리 목적을 불분명하게 제시했다.

이에, 개인정보위는 AIDT 통합포털을 운영하는 KERIS에게 개인정보 항목, 목적, 보유기간 등을 동의서 또는 처리방침을 통해 정보주체에게 누락 없이 고지토록 하고, 특히, 통합 DB에 관리되는 국가수준학습데이터셋에 대해서는 처리 항목 및 목적을 보다 명확히 할 것을 시정 권고했다.

② 안전조치 의무 관련 : 개선 권고(교육부, KERIS)

첫째, AIDT는 개인별·과목별 고유식별값(UUID) 체계를 갖추고 국가정보원 보안점검 및 클라우드 보안인증(CSAP)을 획득하는 등 기본적 보안 조치는 구비하고 있었다. UUID(Universally Unique Identifier)는 이용자ID(중복가입확인정보)+개발사(과목)ID+타임스탬프 조합으로 구성된 36자리 숫자로 개인별·과목별 고유값이다.

AIDT 참여 개발사의 경우 검정요건에 CSAP 인증(서비스형 소프트웨어(SaaS) 인증 중등급) 획득이 의무 사항이다. 하지만 개인정보 안전성 확보를 위한 검정심사(기술심사) 기준과 개발사용 개발가이드라인이 클라우드 보안 측면에 치우쳐 있어, 보호법상의 안전조치에 대한 고려가 미흡한 것으로 나타났다.

둘째, 참여자 간 시스템 연동(API 연계 등) 과정에서 보안이 취약할 가능성이 있어 이에 대한 지속적 관리와 점검이 필요한 것으로 확인됐다. 이에, 개인정보위는 KERIS와 각 개발사가 ISMS-P 인증을 취득해 개인정보 안전성 확보조치 수준을 제고하되, 통합포털과 개발사 웹사이트 간 연동구조를 고려해 양측이 공동으로 인증을 신청·취득·유지할 수 있는 방안을 마련하도록 개선 권고했다.

ISMS-P는 정보보안 및 개인정보 보호를 위한 일련의 조치와 활동이 인증 기준에 적합함을 증명하는 제도로 안전성확보조치 개인정보 처리단계별 요구사항 등을 점검(보호법 32조의2)한다.

아울러, AIDT 통합포털의 경우 보호법상 공공시스템(집중관리시스템)으로 추후 지정될 수 있으므로 이에 대해 요구되는 강화된 안전성확보조치 의무를 준수하도록 개선 권고하였다. '집중관리시스템' 요건은 2개 이상 기관의 업무처리를 위해 ▲정보주체수 100만이상 이거나 혹은 ▲취급자수 200명 이상 혹은 민감정보 처리(개인정보의 안전성 확보조치 기준 제14조 관련)다.

③ 제도 정비 및 정보주체 권리보호 : 개선권고(교육부)

마지막으로 AIDT의 전반적인 개인정보 보호 체계 강화를 위해 교육부에 AIDT 검정심사 기준 및 가이드라인에 보호법 준수사항을 구체적으로 반영하도록 하고 이에 대한 사후 점검 체계도 함께 마련하도록 했다.

또한, AIDT 서비스 운영시 처리되는 개인정보가 보다 명확한 적법 근거에 의해 안전하게 처리되고 정보주체의 권리가 실질적으로 보호될 수 있도록 하고, 각 참여자(KERIS, 개발사 등)에게 역할·책임(침해·유출 시 사고수습 체계 포함)을 부여하는 체계를 마련하도록 개선을 권고했다.

■ 향후계획은?