카카오, AI로 욕설·비속어 댓글 3분의 1토막 냈다

세이프봇 도입 효과 발표..."뉴스 댓글 서비스 건강성 높여"

카카오가 인공지능(AI) 기반 댓글 필터링 기능인 ‘세이프봇’ 성과 분석 결과를 14일 공개했다. 재작년 12월 세이프봇 도입 후 욕설이나 비속어가 포함된 댓글과 이용자 신고 욕설 댓글 비중 등이 줄었고, 인터넷 댓글 문화 건강성이 높아졌다.

세이프봇은 욕설, 비속어를 포함하거나 게시물 운영 정책을 위반한 댓글을 AI 기술로 분석해 자동으로 필터링하는 기능이다. 욕설과 비속어를 음표로 치환하고, 다른 이용자에게 불쾌감을 줄 수 있는 댓글을 노출되지 않도록 가린 뒤 신고 처리까지 자동으로 완료한다.

세이프봇 적용 전인 재작년 하반기와 이후인 난해부터 현재까지 월평균 수치를 비교한 결과, 욕설이나 비속어가 포함된 댓글이 3분의 1 수준으로 감소했다. 욕설 포함, 음표로 자동 치환된 댓글 수는 2020년 하반기 대비 2021년 53.7%, 2022년 63.8% 줄어든 것.

(사진=카카오)

전체 댓글 중 이용자가 신고한 욕설 댓글의 비중도 재작년 하반기 4.2%에서 올해 2.4%로 낮아졌다. 또 이용자 신고로 삭제된 욕설 댓글은 작년 73.6%, 올 한해 91.7% 감소하며 12분의 1 수준으로 줄어들었다.

카카오는 기술을 통해 사회 문제를 해결하겠다는 목표 하에, AI를 활용한 건강한 댓글 생태계 조성에 힘써왔다. 그 일환으로 2017년 7월 ‘욕설 음표 치환 기능’을 적용했다. 재작년 12월에는 해당 기능을 더욱 고도화한 세이프봇을 시범 적용하고, 이듬해 본격 도입했다. 현재 포털 다음과 카카오톡 뷰 탭 뉴스 댓글 서비스에 적용하고 있다.

김종한 카카오 다음사업개발실장은 “카카오의 AI 기술이 온라인 공론장인 뉴스 댓글 서비스의 건강성을 높인 것으로 분석된다”며 "앞으로도 이용자가 안전하고 쾌적하게 서비스를 이용할 수 있도록 관련 기술의 고도화에 노력할 것”이라고 말했다.