네이버, AI로 동영상 음란물 잡는다

엑스아이 기술로 사진뿐 아니라 동영상까지 잡아

네이버가 자체 개발한 음란물 필터링 AI기술인 '네이버 엑스아이(X-eye)'를 동영상 부분으로 확대 적용한다고 14일 밝혔다.

네이버는 지난 7월부터 이 기술을 이미지 부분에 적용해 실시간 필터링을 해오고 있다.

이번에 동영상 부분으로 확대 적용된 네이버 엑스아이에는 기존 이미지 필터링 방식에 영상의 일정구간마다 프레임을 추출하는 과정이 추가됐다.

음란물지수가 특정 수준 이상으로 높은 프레임이 포함된 영상은 '임시 재생 중지' 상태가 되며, 이후 10분 이내 검수자의 검토를 거쳐 정상 영상은 복구되고 음란 동영상은 삭제 및 이용제한 조치된다.

네이버 엑스아이

네이버에 등록되는 모든 동영상은 네이버 엑스아이를 통해 자동으로 필터링 되며, 이에 따라 검수자가 일일이 모니터링 하던 과거 방식보다 효율이 극대화될 것으로 예상된다.

회사는 “업데이트된 네이버 엑스아이로 음란 동영상 필터링을 내부 실험한 결과 98%의 높은 적중률을 나타냈다”고 밝혔다.