AI가 만든 교육콘텐츠, 믿을 수 있나…‘휴먼 검증’ 표준 요구↑

생성형 AI 확산 속 교육콘텐츠 품질·저작권·책임 논란 확대

생성형 AI가 교육 산업 전반으로 빠르게 확산되고 있다.

교재·문항·학습자료가 자동으로 생성되면서 콘텐츠 생산 속도는 크게 높아졌지만, 그 이면에는 정확성 저하와 교육적 타당성 문제, 저작권 리스크가 동시에 제기되고 있다. 특히 교육 분야는 학생의 학습 결과와 직결되는 만큼, AI가 만든 콘텐츠의 신뢰성을 어떻게 확보할 것인지가 핵심 과제로 떠오르고 있다.

이 같은 문제의식 속에서 해외 주요 국가와 글로벌 교육기관들은 이미 생성형 AI 활용 방식에 대해 명확한 방향을 제시하고 있다. 핵심은 ‘Human-in-the-loop’, 즉 AI가 생성한 결과물을 반드시 인간이 검증하고 책임지는 구조를 전제로 활용해야 한다는 원칙이다.

해외는 이미 ‘AI 단독 생성’에서 벗어났다

해외에서는 이미 제도 논의를 넘어, 콘텐츠 산업 전반에서 ‘휴먼-AI 협업’을 실무 표준으로 채택하는 움직임이 확산되고 있다. 언론 분야에서는 워싱턴포스트, 뉴욕타임스, AP통신 등 주요 매체들이 생성형 AI를 보조 도구로 활용하면서도, 기사에 대한 최종 판단과 책임은 기자에게 두는 편집 원칙을 유지하고 있다. 생성형 AI를 활용하더라도 최종 판단과 책임은 반드시 기자에게 귀속된다는 의미다.

뉴욕타임즈의 AI 사용 정책(출처=뉴욕타임즈 홈페이지)

에듀테크 분야 역시 생성형 AI를 전면 자동화 도구가 아닌 보조 수단으로 활용하려는 흐름을 보이고 있다. 글로벌 온라인 교육 플랫폼 코세라는 강의 콘텐츠의 최종 주체를 대학과 교수 등 교육기관에 두고 있으며, 생성형 AI는 강의 제작을 지원하는 도구로 활용하고 있다. 칸 아카데미 역시 AI를 학습 판단을 대신하는 수단이 아니라, 교사와 학습자를 보조하는 역할로 한정해 운영하고 있다.

세계적인 교육출판사 피어슨 등 주요 글로벌 교육 기업들은 AI를 생산성 향상이나 보조 편집 도구로 활용하면서도, 전통적으로 인간 전문가가 최종 편집과 승인 책임을 지는 구조를 유지하고 있다. 이처럼 해외 콘텐츠 산업에서는 이미 ‘AI가 만들고 사람이 책임지는 구조’가 예외가 아닌 기본값으로 자리 잡고 있으며, 교육 분야 역시 이러한 휴먼-AI 협업 모델을 중심으로 재편되고 있다는 평가가 나온다.

국내에서도 생성형 AI를 활용한 교육 콘텐츠가 빠르게 늘고 있지만, 다수의 서비스는 여전히 속도와 편의성 중심의 활용에 머물러 있다는 지적이 나온다. AI가 만든 콘텐츠의 출처와 저작권, 수정 이력, 교육적 적합성을 체계적으로 관리하는 구조를 갖춘 사례는 많지 않다.

이런 상황에서 북아이피스가 운영하는 교육콘텐츠 플랫폼 쏠북이 글로벌 흐름에 가장 근접한 구조를 국내에서 선제적으로 구현한 사례로 주목받고 있다.

교육콘텐츠 개발에 휴먼-AI 협업 구조를 구현한 북아이피스 ‘쏠북’

북아이피스 쏠북, 휴먼-AI 협업 구조 실무로 구현

북아이피스는 3년 전부터 한국저작권위원회와 함께 교육콘텐츠의 식별·분류·추적·정산 체계를 국가콘텐츠식별체계 즉, 국가콘텐츠식별체계(UCI, Universal Content Identifier) 기반으로 구축해왔다. 이는 단순한 콘텐츠 관리 시스템이 아니라, 생성형 AI 시대를 전제로 한 책임 구조 설계에 가깝다.

UCI란 콘텐츠에 부여하는 유일하고 영구한 국가 표준 식별체계다. 이를 활용하면 주민등록번호, 차량번호, 바코드처럼 콘텐츠에 UCI 식별자를 부여하여 데이터정보와 유통경로를 효과적으로 파악 할 수 있다.

쏠북의 콘텐츠 제작 과정에서 생성형 AI는 초안 작성 단계에 활용된다. 이후 모든 콘텐츠는 교육 전문가의 검수 과정을 거치며, 이 과정에서 교육적 적합성과 정확성이 검토되고 오류나 부적절한 표현은 수정된다. 콘텐츠의 생성 시점부터 수정 이력, 실제 활용 과정까지의 정보는 데이터로 기록돼 추적 가능하도록 관리되며, 이러한 검증 절차를 완료한 콘텐츠만이 교육기관과 학교 현장에서 활용된다.

이 같은 구조는 EU AI Act와 OECD·UNESCO가 제시한 책임 기반 AI 활용 원칙과 궤를 같이한다. 교육 분야를 고위험 영역으로 분류하고 인간의 감독과 책임 구조를 요구하는 글로벌 규제·가이드라인 흐름 속에서, 쏠북은 생성·검증·추적이 연결된 구조를 실무 수준까지 구현한 사례로 평가받고 있다.

유네스코 ‘교육 및 연구 분야에서 생성형 인공지능 활용을 위한 지침’ (출처=유네스코 홈페이지)

회사는 "다수의 AI 교육 서비스가 생성형 AI를 활용해 콘텐츠를 빠르게 만들어 제공하는 데 초점을 맞추는 반면, 쏠북은 처음부터 저작권과 책임, 검증을 전제로 한 유통 구조를 설계했다는 점에서 차별화된다"고 밝혔다.

UCI 기반 관리 체계는 콘텐츠의 생성과 수정, 활용 전 과정을 추적 가능하게 만들어 교육기관과 공공 영역이 요구하는 법적·제도적 안정성을 함께 확보했다. 이는 AI 활용 확산 과정에서 가장 취약한 지점으로 꼽히는 책임 소재 문제를 구조적으로 해결했다는 점에서 의미가 크다고 회사 측은 설명했다.

교육 콘텐츠 시장, 속도 경쟁에서 신뢰 경쟁으로

최근 교육기관과 지자체, 출판사는 AI 콘텐츠 활용을 확대하는 동시에 품질과 저작권, 책임 소재를 명확히 요구하는 방향으로 움직이고 있다. 단순히 빠르게 콘텐츠를 공급하는 방식만으로는 신뢰를 확보하기 어렵다는 인식이 확산되고 있는 것이다.

김관백 북아이피스 공동대표는 “생성형 AI 시대의 경쟁력은 얼마나 빨리 만드느냐가 아니라, 어떻게 책임을 증명하느냐에 있다”며 “AI가 생성하고 사람이 검증하며, 데이터가 그 책임을 기록하는 구조가 앞으로 교육콘텐츠의 기본 조건이 될 것”이라고 말했다.