네이버, 디지털 성범죄 피해 예방에 더 힘쓴다

피해자 지원 정보 우선 노출 키워드 확대

네이버(대표 한성숙)는 24일, 디지털 성범죄 피해 예방을 위한 캠페인을 진행하고, 관련 검색어 입력 시 2차 피해를 막기 위한 피해자 지원 정보를 우선 노출한다고 밝혔다.

특히 '일반인 몰래카메라', '일반인 불법 촬영물' 등과 같은 키워드까지 캠페인 노출 범위를 확대해 2, 3차 피해를 막기 위한 노력에 앞장선다는 방침이다.

한편 네이버는 이미 서비스 초기부터 '네이버 운영원칙'에서 불법게시물 제한과 관련한 내용을 명시한 이후, 플랫폼 상에서의 음란, 불법 콘텐츠 및 아동, 청소년을 대상으로 한 음란물 유통 방지를 위해 국내 최고 수준으로 노력해 왔다. 특히 2018년부터는 이용자들이 이해하기 쉽도록 약관을 명확하게 변경하고, '사회적 약자 학대를 묘사한 게시물' 등 불법 게시물의 종류를 보다 구체적으로 명기하며 불법 게시물 제한 정책을 강화한 바 있다.

네이버, 디지털 성범죄 확산 방지 위한 캠페인 진행

네이버는 모니터링 전담팀과 신고센터를 운영하며 상시모니터링을 통해 적발된 게시물 및 신고된 게시물에 대한 조치를 진행하고 있다. 게시물, 댓글 등 이용자가 업로드 하는 모든 영역에서 클릭 한 번만으로 게시물 신고를 진행할 수 있으며, 네이버는 접수된 신고에 대해 즉각적으로 모니터링하고 불법성을 판단한 뒤 처리한다. 네이버는 해당 게시물을 업로드한 이용자의 '게시물 업로드 권한'을 제한하고, 수위에 따라서 '영구 이용 제한'과 같은 강징계를 취하는 등 추가적인 불법 게시물의 발생 가능성을 사전 차단한다.

네이버의 정책적 노력과 더불어 기술적으로는 자체 개발한 AI기반 음란 게시물 필터링 시스템 'X-eye(엑스아이)'를 통해, 게시물이 업로드 되는 단계에서 선제적으로 음란 게시물을 차단하고 있다. 이용자가 게시물을 업로드하면 게시물에 포함된 사진, 동영상이 별도의 엑스아이 서버를 통해 실시간으로 검수 되고, 음란물로 판별된 게시물은 즉시 삭제되는 구조다. 조치된 음란물은 다시 엑스아이의 학습 데이터로 사용되면서 엑스아이는 자체적으로 음란 게시물 판별 정확도를 업그레이드 한다. 네이버 측에 따르면 현재 엑스아이의 정확도는 약 99%에 달한다.

또 네이버의 그룹형 SNS 밴드에서는 2015년부터 음란 게시물에 대한 정책을 한층 강화해, '원 스트라이크 아웃' 정책을 갖추고 있다. 특히 아동청소년음란물을 포함한 디지털 성범죄 관련 콘텐츠에 대해서는 게시물을 직접 업로드 한 이용자가 아니더라도 음란물의 공유, 매매를 요청한 이용자에 대해서도 서비스 사용 권한을 영구정지하고 있다.