네이버·카카오는 디지털성범죄 유통 어떻게 막을까

방통위, 2020년 불법촬영물 처리 투명성 보고서 공개

“인공지능 필터링 엑스아이(X-eye) 솔루션이 음란물에 대한 AI 학습을 거친다. 이를 통해 부적절한 내용을 담은 이미지나 동영상이 올라오면 엑스아이가 실시간으로 감지해 차단한다. 또한 해쉬 필터링으로 이미 조치된 것과 같은 음란 이미지, 동영상이 다른 계정으로 업로드될 경우 즉시 차단한다.”

“이용자가 회원 가입과 로그인 단계마다 비정상적인 가입, 로그인 시도인지 회원 계정 클린 플랫폼에서 탐지한다. 콘텐츠 작성 단계에서는 콘텐츠 클린 플랫폼에서 비정상 생성을 탐지하고, 공개 콘텐츠 모니터링을 거치고 신고된 콘텐츠인지 따져 검색 공개 단계에 이른다.”

네이버와 카카오가 각각 지난해 성범죄물을 비롯한 불법촬영물 처리에 관한 투명성 보고서에 밝힌 내용이다. 성범죄물 유통을 통한 2차 피해를 막기 위해 AI와 머신러닝을 적용한 솔루션으로 탐지하고, 이용자 신고 절차를 갖춰 이중으로 불법촬영물 유통을 방지하는 식이다.

네이버의 디지털성범죄 유통방지 절차

방송통신위원회는 31일 주요 부가통신사와 웹하드 사업자가 제출한 불법촬영물 처리에 관한 투명성 보고서를 홈페이지에 공개했다.

n번방 방지법으로 불리는 개정된 전기통신사업법, 정보통신망법 등에 따라 부가통신사업자는 디지털성범죄물에 대한 유통방지 의무가 강화됐다. 이에 따라 올해부터 웹하드 사업자와 일정 규모 이상인 부가통신사는 투명성 보고서를 제출해야 한다.

방통위는 1월 말 사업자들이 제출한 투명성 보고서에 대한 검토를 거쳐 이날 온라인에 공개했다.

투명성 보고서가 공개된 사업자는 웹하드 33개사를 포함해 총 86개 회사다.

네이버, 카카오 등 국내 주요 부가통신사업자 외에 구글 페이스북 등 주요 해외 사업자들은 불법촬영물 유통방지를 위한 일반적인 노력, 신고 삭제요청 처리 결과, 불법촬영물 유통방지 책임자 배치 등의 내용을 공개했다.

이를 통해 디지털성범죄물 삭제와 유통방지에 대한 사업자의 책임을 높이고 회사 별로 다양한 유통방지 노력을 살펴볼 수도 있다.

방통위는 정보통신망법이 개정된 뒤 지난해 연말에 시행돼 불법촬영물 처리 실적이 없는 점을 고려해, 인터넷 사업자들이 불법촬영물 처리 결과를 상시 관리토록 하고 책임자 대상 교육도 진행한다는 계획이다.