네이버 AI 클린봇, '악플' 생성률 낮췄다

2020년 26.5%서 올 초 16.7%로 감소

네이버의 악성댓글(악플) 탐지 인공지능 기술인 'AI 클린봇'이 악플 생성 비율을 낮춘 것으로 확인됐다. 네이버는 온라인상 혐오·차별·비하 표현을 근절하고자, 기술 고도화와 서비스 개선 등 한층 강화한 대응책 마련에 나선다.

30일 네이버 다이어리에 따르면 회사가 2019년 AI클린봇을 도입한 뒤 악플 생성 비율은 매년 감소세를 나타냈다. 악플 생성률은 2020년 26.5%에서 ‘클린봇 2.0’을 선보인 재작년 19.1%로 줄었다.

작년(18.6%)에 이어, 악플 생성률은 올 초 기준 16.7%까지 감소했다. 악플 노출 비율의 경우, 2019~2021년 순서대로 21.9%, 18.5%, 12.8%로 내림세를 보이다, 지난해 13.5%로 늘었다.

(사진=네이버)

네이버 측은 “작년 이태원 참사 이후 근거 없이 존엄성을 위협하거나 권리 침해, 편견 조장 등 내용들이 증가하면서 (악플이) 다시금 사회적 문제로 떠오르고 있다”고 설명했다. 올 들어 악플 노출 비율은 8.9%로 다시 줄었다.

네이버는 혐오감을 주거나, 차별적인 악플에 대한 학습을 통해 AI 클린봇 탐지 기술을 강화한다는 계획이다. 클린봇 탐지 강도를 직접 설정해, 악플이 증가할 때 별도 알림 기능으로 빠르게 댓글을 차단할 수 있도록 한 신규 기능을 지원할 예정이다.

또 상반기 내 댓글 작성자 활동성이 명확하게 드러나게끔, 관심 분야 정보를 노출하고 댓글 이용 제한 상태를 표시하는 등 프로필 영역을 업데이트한다. 댓글 이용 제한 해제 시, 활동을 바로 재개하는 대신 온라인에서 상호 존중과 배려를 숙지할 수 있는 별도 절차를 구비한다는 방침이다.

(사진=네이버)

현재 네이버는 인터넷 공간 속 자율규제 문화를 선도하고 있는 독립 외부 기관인 한국인터넷자율정책기구(KISO) 정책 규정(차별적 표현 완화를 위한 정책)을 따르고 있다. 이밖에도 회사는 그린인터넷 페이지를 개편해 이용자 참여를 유도하고 외부 요청에 따른 처리 현황도 공유하기로 했다.

네이버 관계자는 “그린인터넷을 통해 사회적 합의가 필요한 부분에 대해 적극적으로 합의를 구하고, 신뢰할 수 있는 소통 채널로서 역할을 다할 것”이라며 “더욱 건강한 인터넷 문화를 이끌어가기 위해 최선을 다할 것”이라고 말했다.