"유해 콘텐츠 차단만으론 부족…청소년 보호, 플랫폼 설계부터 바꿔야"

SNS 과몰입·유해 콘텐츠 반복 노출…"플랫폼 사전위험평가 필요"

SNS와 온라인 플랫폼이 아동·청소년 일상이 되면서 청소년 보호 정책도 유해 콘텐츠를 차단하는 사후 대응에서 벗어나야 한다는 지적이 나왔다. 

추천 알고리즘과 과몰입을 유도하는 서비스 설계 자체가 새로운 위험 요인으로 떠오른 만큼, 플랫폼이 서비스 설계·운영 단계부터 위험을 평가하고 예방하도록 하는 '사전위험관리' 체계가 필요하다는 주장이다.

윤금낭 디지털산업정책연구소 디지털안전센터장은 1일 서울 영등포구 국회의원회관에서 열린 ‘디지털 환경에서 아동·청소년 권리 보장을 위한 정책토론회’에서 “사전위험평가가 평가 자체가 목적이 아닌 발견된 위험을 실제 안전 조치와 서비스 개선으로 연결하기 위한 수단이어야 한다”고 말하며 청소년 안전 조치에 관한 해외 사례를 소개했다.

이번 토론회는 더불어민주당 조인철, 한준호 의원과 국민의힘 최형두 의원, 초록우산이 주최했으며 윤 센터장이 발제자로 나섰다.

1일 서울 영등포구 국회의원회관에서 열린 ‘디지털 환경에서 아동·청소년 권리 보장을 위한 정책토론회’에 참여한 참석자들이 함께 사진을 찍고 있다. (사진=지디넷코리아)

현재 국내 10대 청소년의 인터넷 이용률은 99.9%이며, 이들이 직면한 온라인 위험은 유해 정보 노출에서 나아가 온라인 그루밍 위험, 스마트폰 과의존 및 과몰입과 같은 새로운 양상으로 확대되는 추세다.

해외는 아동·청소년 어떻게 보호할까

지난해 최초로 16세 미만 청소년의 사회관계망서비스(SNS) 이용을 금지한 호주는 온라인 안전 위원회를 중심으로 예방·자율규율·감독·집행을 연계한 통합 거버넌스 체계를 구축했다. 또 소위 ‘세이프티 바이 디자인’이라고 불리는 설계에 의한 안전 모델을 통해 사업자에게 온라인 안전을 서비스 설계·개발·운영 전 과정에서 내재화하도록 요구하고 있다.

영국은 온라인안전법 2023을 바탕으로 안전 체계를 구축하고, 아동이 접근할 가능성이 있는 서비스에 아동 위험평가를 법적 의무로 부과했다. 해당 평가는 위험 식별, 위험 평가, 조치 결정·실행, 검토·업데이트 순으로 이뤄진다.

유럽연합(EU)은 디지털서비스법(DSA)에 기반한 시스템 위험을 사전에 평가 및 관리하는 규제체계를 만들었다. 그 중에서도 초대형 온라인 플랫폼, 검색엔진에 강화된 위험 관리 의무를 부과하는 것이 특징이다. 위험 평가 결과를 구체적인 완화 조치로 연계하는 ‘평가-조치’ 구조를 법적으로 의무화했다.

플랫폼 설계, 디지털 환경 위험 심화…사전위험관리 방식 필요

윤 센터장은 온라인 플랫폼의 알고리즘·추천 시스템 등 플랫폼 설계 자체가 디지털 환경에서의 위험을 심화시키는 구조라고 지적했다. 특히, 이용자의 체류시간·자극·참여를 극대화하도록 최적화된 설계가 아동의 과몰입과 유해 콘텐츠 반복 노출을 유발한다고 강조했다.

이어 국내에서는 청소년 보호 책임자 지정 등의 보호 체계가 있지만, 사후 대응 중심 체계로 위험을 사전에 식별하는 독립적 절차가 없다는 점을 한계로 꼽았다. 신고·삭제·차단 위주의 피해 구제 중심 운영과 서비스 설계 단계의 위험 예방 수단의 부재, 사업자 자율 안전관리 역량 점검 도구 및 이행 실적 공개와 보고 절차가 없다는 점도 문제점으로 거론했다.

그는 아동·청소년이 이용하는 디지털 환경은 국내외 서비스를 명확하게 구분하기 힘들다면서 추천 시스템과 이용자 간 상호작용 서비스의 기능·설계에서 발생하는 위험이 특정 국가에만 국한되지 않는다고 봤다.

1일 서울 영등포구 국회의원회관에서 열린 ‘디지털 환경에서 아동·청소년 권리 보장을 위한 정책토론회’에서 윤금낭 디지털산업정책연구소 디지털안전센터장이 발제를 하고 있다. (사진=지디넷코리아)

호주와 영국 등 해외에서도 서비스 설계와 운영 과정의 위험을 사전에 파악하고 관리하는 방향으로 온라인 안전 체계를 구축하고 있는 만큼 국내에서도 이를 검토할 필요가 있다고 역설했다.

윤 센터장은 “해외 제도를 그대로 가져오기보다는 각 사례에서 확인된 요소를 국내 환경에 맞게 재구성하는 방식이 적절하다”며 “평가 대상 및 적용 범위, 평가 영역·핵심지표, 평가 절차 및 운영 방식, 운영 체계·거버넌스를 고려해야 한다”고 덧붙였다.

사전위험관리 필요성에 공감대…감독 체계·사업자 책임 강화 목소리도

이어진 토론에서 성욱제 정보통신정책연구원 미디어전략그룹 연구위원은 호주에서 운영하는 설계에 의한 안전보다 큰 모델이 필요하다고 진단했다. 성 연구위원은 “중요한 건 디테일”이라며 시행령 단계에서 위험 평가에 이어 중독 유발 기능 제한 등을 포괄할 수 있어야 한다고 언급했다.

김현기 초록우산 옹호사업본부 과장은 10대 청소년으로 SNS 플랫폼에 가입해 느낀 점을 공유하며 “(아동의 온라인) 위험은 갈수록 교묘해지고, 복잡해지고 여러 알고리즘의 영향을 받고 있었다. 안전 설계를 위한 위험 평가가 반드시 필요하다”고 짚었다.

그러면서 입법 과정에서 아동 참여 문항으로 실효성을 높인 평가 도구 개발이 필요하다는 점을 강조했다. 그는 위험 평가에 대한 감독 체계도 마련해야 한다고 부연했다.

1일 서울 영등포구 국회의원회관에서 열린 ‘디지털 환경에서 아동·청소년 권리 보장을 위한 정책토론회’에서 성욱제 정보통신정책연구원 미디어전략그룹 연구위원(왼쪽에서 두 번째)이 토론을 하고 있다. (사진=지디넷코리아)

한승혜 한국인터넷기업협회 디지털경제연구원 리더는 청소년 SNS 중독 소송에서 합의금을 지급한 메타의 사례가 국제사회가 플랫폼에 책임을 묻는 전환점이 될 것이라고 내다봤다. 한 리더는 “좋은 취지에서 이뤄진 일이라도 그것이 유효할 수 있는가에 대해 생각을 해봐야 한다”며 “SNS를 안전하게 설계한다는 광범위한 목표보다는 세부적으로 어떤 위험을 다루려고 하고, 무엇을 개선하려는지에 대해 다른 처방을 가져와야 한다”고 말했다.

김우석 방송미디어통신위원회 디지털유해정보대응과장은 사전 위험 평가에서 EU와 같은 모델로 가는 것이 바람직하다고 봤다. 김 과장은 “스스로 규제하도록 하고 문제가 생기면 강하게 사업자에게 책임을 지도록 하는 부분이 담겨있기 때문”이라며 다양한 서비스가 나오기 전 사업자가 스스로 점검하고 평가하는 부분에 대해 고민해봐야 한다는 뜻을 밝혔다.