네이버-카카오, 욕설·비속어 통합 데이터베이스 공개

한국인터넷자율정책기구(KISO) 욕설 필터링 솔루션 ‘KSS’ 개발 완료

양대 포털 네이버·카카오가 구축한 욕설‧비속어 통합 데이터베이스(DB)가 공개돼 보다 많은 플랫폼 기업이 혜택을 받게 될 전망이다. 

한국인터넷자율정책기구(KISO)는 인터넷상 욕설‧비속어 등 노출을 제한할 수 있도록 하는 ‘KSS(KISO Safeguard system)’를 개발했다고 1일 밝혔다.

인터넷 서비스에서 욕설‧비속어가 노출되는 것을 막기 위해 실시간으로 판별하는 기능을 갖춘 솔루션이다. KISO는 특별분과 산하 자율규제DB 소위원회를 통해 네이버와 카카오로부터 제공받은 약 60만 건의 욕설 DB를 통합했다.

앞서 네이버와 카카오는 건강한 인터넷 문화 조성과 환경‧사회‧지배구조(ESG) 경영 활동 일환으로 욕설 DB를 KISO에 무상공여한 바 있다. 이를 바탕으로 KISO는 인터넷 기업들이 자율적으로 기술적 보호조치에 활용하게끔 응용프로그램 인터페이스(API)를 개발 완료했다.

기존에는 욕설을 차단하기 위해 개별 업체들이 자체 DB를 구축해야 하고, 지속적인 유지 관리에 많은 비용이 소요돼 중소규모 업체의 경우 유사 시스템 구축이 어려웠다.

네이버와 카카오 등 포털 업계는 수년 전부터 댓글 등에 욕설‧비속어 등을 필터링하는 인공지능(AI) 기반의 탐지‧차단 프로그램을 자체 개발해 적용해왔다. 이런 프로그램 도입 이후 실제 악성 댓글이 줄어드는 등 자정 효과가 나타나고 있다.

KSS는 데이터 분석을 통해 욕설 여부를 판단하며 DB에 포함되어 있으면 변형 욕설도 필터링이 가능하도록 설계됐다. KISO는 이를 향후 모니터링 및 분석해 신규 생성되는 욕설에 대해서도 지속적으로 대응한다는 방침이다.

내년 상반기 정식 서비스 예정이며 본 서비스에 앞서 베타서비스를 진행한다. 이용을 원하는 기업은 KISO에 신청하면 된다. 혐오표현과 유해콘텐츠의 유통을 제재하는 디지털서비스법(DSA)이 유럽에 도입됨에 따라 국내에서도 KSS와 같은 시도가 여러 플랫폼에서 필요할 것으로 기대되고 있다.

이재신 KISO 자율규제DB 소위원회 위원장(중앙대 미디어커뮤니케이션학부 교수)은 “국내 포털 회원사들이 욕설과 같은 비윤리적표현 공동 DB를 구축하는 등 안전한 인터넷 환경조성을 위한 사회적 책임을 실현하고 있다”며 “건전한 디지털 이용 환경을 만들고 이용자를 보호하기 위해 다양한 정책을 마련해 나갈 것”이라고 밝혔다.

KISO는 2009년 출범한 자율규제 기구로 인터넷 포털과 커뮤니티, 챗봇 서비스 등 15개 인터넷 사업자가 KISO 회원사로 참여하고 있으며, 그간 청소년 보호를 위한 음란물 및 유해 검색어 DB 구축을 비롯한 사업을 진행해왔다.