네이버, 실시간 음란물 필터링 기술 공개

엑스아이 기술 오픈 API로 개방…네이버 클라우드 플랫폼 통해 사용 가능

네이버는 실시간 음란물 필터링 시스템 엑스아이 2.0을 클로바 그린아이로 개편한다고 16일 밝혔다. 오픈 응용프로그램 인터페이스(API) 형태로 외부에 기술을 개방해, 건전한 인터넷 환경 조성과 이용자 보호에 기여하겠다는 방향이다.

엑스아이는 네이버가 2017년 출시한 24시간 실시간 음란 이미지 필터링 기술이다. 축적된 수백만장의 이미지를 학습해 부적절한 사진이나 동영상(음란물)을 인공지능 기술로 실시간 감지해 검색 노출을 차단한다.

회사는 검색 외 카페, 블로그, 지식인 등 서비스에 엑스아이를 활용하며 음란물을 차단해왔다. 지난해엔 엑스아이 2.0으로 시스템을 업그레이드하며, 정상·음란·성인·선정으로 콘텐츠를 세분화해 분류하고, 렉스넷(ReXNet), 컷믹스(CutMix) 등 네이버의 다양한 이미지 인식 선행연구 결과를 적용해 정확도를 99.5%까지 개선했다.

(사진=네이버)

리브랜딩한 클로바 그린아이는 네이버 클라우드 플랫폼 홈페이지에서 사용, 신청할 수 있다. 베타 서비스 단계에서는 신청 후 승인된 사용자에 한해 서비스를 제공하고 있다. 이정규 네이버 책임리더는 “앞으로도 인공지능 모델을 지속해서 고도화하고 데이터를 최신화하며 유해 콘텐츠 감지 영역을 확대해나갈 것”이라고 했다.