아프리카TV "유튜브·트위치보다 유해 콘텐츠 필터링 기술 우위"

아프리카TV는 3만명 가량 1인 미디어 방송인(BJ)들이 ‘먹방(먹는방송)’이나 게임, 교육 등 콘텐츠를 실시간 방송하는 플랫폼이다. 하루 쏟아져 나오는 콘텐츠 양은 셀 수 없을 정도. 이렇다 보니, 자극적인 영상물이나 댓글 등이 종종 눈에 띈다.

안전한 시청 환경을 조성하고자, 아프리카TV는 24시간 모니터링 체계를 구축하고 있다. 최근 경기 판교에서 만난 문준석 아프리카TV 유저커뮤니케이션 팀장은 “60명 가까운 인력이 항시 유해 콘텐츠를 점검하고 있다”며 “평일 오전 9시부터 새벽 2시까지 전화 신고를 받는데, 여타 플랫폼에서는 전무한 시스템”이라고 말했다.

아프리카TV가 자랑하는 ‘클린아티’는 지나친 혐오 발언이나 청소년 이용자에게 악영향을 끼칠 영상물을 즉시 색출해 관리하는 역할을 한다. 아프리카TV 내 경찰, 감시관이다. 클린아티는 모니터링과 24시간 신고 대응 외 이용자들이 운영 정책을 준수하고 있는지 살핀다. 시청자로부터 질문과 의견을 빠르게 수렴하고, 이를 기반으로 데이터를 분석해 문제 원인 파악과 재발 방지에 나선다.

실시간 모니터링을 뒷받침할 기술력도 갖췄다. 바로 태권S와 태권A다. 태권S는 2018년 회사가 자체 개발한 실시간 음란물 필터링 기술로, 축적된 음란물 영상 수백만 건을 학습해 AI로 감지한다. 음란물이 게시되면 태권S가 바로 탐지한 뒤, 음란도를 ‘매우확실’ ‘유력’ 등으로 구분해 전담 운영자에게 전달된다.

이어 문제 구간 전후 내용과 함께, 운영자가 제재한다. 문 팀장은 “알몸 노출과 성행위 등 수위 높은 콘텐츠는 ‘블랙’으로, 이보다 덜 하지만 제재가 필요하다고 판단되면 ‘핑크’로 필터링 등급을 부여한다”며 “검토한 후 삭제와 숨김, 이용정지 결정을 내린다”고 했다.

태권A는 불법 홍보 키워드나 문구를 비롯한 메시지를 감지한다. 주로 채팅방에서 활용되는데, 태권S처럼 최신화된 불법 홍보 키워드를 토대로 학습해 특정 패턴을 감지한 뒤 알고리즘을 토대로 분석하고 식별하는 머신 러닝 처리 기술이다. 방송 중 부적절한 채팅이 발생하면 태권A가 실시간 적발해 강제퇴장, 채팅금지 등 조치를 한다.

점검 대상에는 우선순위가 있다. 대개 ▲공식 ▲비밀번호 설정 ▲연령제한 ▲청소년 BJ ▲시청자가 많은 방송 ▲신고접수 전력 ▲위반이 반복되는 BJ ▲개인방송국·게시판 ▲채팅 ▲닉네임 ▲게시물·댓글 콘텐츠를 중심으로 모니터링한다.

문 팀장은 “파트너BJ 같은 인기 방송인이 제재받으면, 자연스레 일반 BJ도 콘텐츠 안전에 신경을 쓴다”고 했다. 1인 미디어 콘텐츠 산업이 나날이 커지면서 실시간 영상물이 사회적 문제를 불러오기도 하는데, 문 팀장은 이 모니터링 체계를 견고히 하면 깨끗한 미디어 플랫폼 생태계가 만들어질 것으로 확신했다.

태권S·A 필터링 정확도는 평균 90%, 최대 97%다. 문 팀장은 “전문 필터링 업체처럼, 점차 데이터베이스를 고도화할 예정”이라며 “인력 충원과 꾸준히 학습 데이터를 쌓아 정확성을 높이는 데 주력할 것”이라고 강조했다.