AI 손에 쥔 아동·청소년…정부, 이용자 보호체계 강화

학교 AI 이용기준 마련하고 과의존 예방·상담, 유해정보 필터링도 추진

정부가 인공지능(AI) 활용 확대와 함께 부작용을 줄이기 위한 안전장치 마련에 나선다. AI가 일상과 교육 현장으로 빠르게 확산하면서 이용자를 보호할 제도도 함께 갖추겠다는 취지다.

10일 서울 여의도 국회에서 열린 '생성 AI 시대 시민의 정신건강과 AI 리터러시 정책 과제' 토론회에서 교육부와 과학기술정보통신부, 방송미디어통신위원회는 AI 확산에 맞춰 이용자의 연령과 특성을 고려한 보호 체계를 강화해야 한다는 데 뜻을 모았다. 교육부는 학교 현장의 AI 이용 기준을 마련하고 과기정통부는 과의존 예방·상담을, 방미통위는 아동·청소년을 위한 서비스 안전장치를 맡는 등 부처별 역할에 맞춰 대응책을 추진한다.

교육부는 학교에서 생성형 AI를 사용할 때 지켜야 할 기준을 구체화한다. 올해 2학기 '교육 분야 AI 활용 가이드라인'을 배포해 학생과 교사가 상황별로 확인해야 할 사항을 체크리스트로 제시하고 AI 활용 수준에 따른 사례도 담을 예정이다.

(왼쪽부터) 김주영 교육부 인공지능교육진흥과장, 박형빈 서울교대 교수, 정준욱 과학기술정보통신부 디지털포용정책팀장, 김혜숙 방송미디어통신위원회 인공지능이용자보호과장이 AI 확산에 따른 이용자 보호 방안을 논의하고 있다. (사진=지디넷코리아)

서비스별 이용약관에 명시된 연령 제한도 학교 현장에서 적용한다. 김주영 교육부 인공지능교육진흥과장은 "대부분의 AI는 만 14세 수준 이하에 연령 제한이 있어 사실상 간접적으로 초등학생은 AI를 활용할 수 없는 효과가 있다"고 설명했다.

AI 교육에서는 윤리를 강화한다. 교육부는 생성형 AI 등장 이후 달라진 기술 환경을 반영한 초·중·고 AI 교육 운영안도 준비하고 있다. AI 원리와 활용에 더해 윤리를 별도의 내용 체계로 구성할 계획이다.

과기정통부는 AI 과의존에 대응한다. 지난달 발표한 AI 윤리 원칙을 토대로 이용자의 연령과 수준에 맞는 가이드라인을 만들고 예방 교육과 전문 상담에 활용할 예정이다.

기존 디지털 지원 체계에도 AI를 포함한다. 고령층 등 디지털 취약계층을 대상으로 운영하는 디지털배움터에서 AI 관련 교육을 확대하고 스마트쉼센터에서는 AI 과의존 상담을 지원할 계획이다.

정준욱 과기정통부 디지털포용정책팀장은 "과거 인터넷 과의존, 스마트폰 과의존에 이어 이제 AI 과의존까지 다루고 있다"며 "AI 윤리 원칙에 맞는 수준별·연령별 가이드라인을 만들어 예방 교육이나 전문 상담을 지원할 수 있도록 준비하고 있다"고 말했다.

방미통위는 AI 서비스에서 아동·청소년을 보호하기 위한 기술적 장치를 검토하고 있다. 서비스 가입자가 성인인지 아동·청소년인지 확인하되 개인정보 수집을 최소화하는 방안이 논의되고 있다. 기존 본인확인 제도를 활용해 사업자에게 구체적인 개인정보를 넘기지 않고 연령대 여부만 전달하는 방식이다.

AI가 아동·청소년에게 유해한 답변이나 콘텐츠를 제공하지 않도록 걸러내는 기술도 추진한다. 방송미디어통신심의위원회가 유해정보를 심의하며 축적한 데이터를 데이터셋으로 만들고 이를 기반으로 AI 서비스에 적용할 필터링 시스템을 개발한다는 구상이다. 관련 사업 예산은 정부안에 반영돼 국회 심의를 앞두고 있다.

김혜숙 방미통위 인공지능이용자보호과장은 "사업자들이 아동·청소년에 대한 유해정보 필터링을 잘하고 싶어도 그 기준이 무엇인지 모를 때 이 데이터가 중요한 기준이 될 수 있다"며 "기존 서비스에 가드레일로 붙여 쓸 수 있는 모듈형 필터링 시스템을 제공하고 사업자들이 가져다 쓸 수 있게 하겠다"고 말했다.

박형빈 서울교대 윤리교육과 교수는 AI 이용에 따른 부작용을 아동·청소년만의 문제로 봐서는 안 된다고 강조했다. 그는 "AI에 생각과 판단을 맡기는 '인지의 외주화'와 감정적 교류까지 의존하는 '정서의 외주화'가 전 연령에서 나타날 수 있다"며 연령별 안전 기준과 AI 리터러시 교육을 제안했다.

조승래 더불어민주당 의원은 AI 기술 개발과 윤리·이용자 보호 정책을 국가AI전략위원회에서 함께 다룰 필요가 있다고 제안했다. 조 의원은 "지금까지 국가AI전략위원회가 기술 개발에 주로 집중했다면 이제는 AI 윤리와 이용자 보호도 중요한 축으로 함께 다뤄야 한다"며 "기술과 윤리가 같이 발전해야 AI 시대에 적극적으로 AI를 활용하면서 사람들의 삶을 행복하게 할 수 있다"고 말했다.