실시간방송, '폭행·자살·노출' 처리법은?

페북·카카오TV·아프리카TV 정책 비교

얼마 전 한 태국인이 페이스북에 올린 자살 동영상이 무차별 확산되면서 전 세계인들을 충격에 빠뜨렸다. 한 남성이 11개월 된 아이를 목매 숨지게 한 뒤 자신도 건물에서 뛰어내려 자살하는 장면을 담은 충격적인 영상이었다.

동영상 콘텐츠는 소셜네트워크서비스(SNS)의 새로운 경쟁력이다. 누구나 때와 장소 구분 없이 생방송을 할 수 있게 됐다. 공유와 퍼 나르기 기능까지 있어 영상을 대규모로 유통하는 것도 한결 수월해졌다.

하지만 끔찍한 영상들이 무차별 확산되는 건 실시간 방송 시대의 어두운 그림자다.

실시간 방송 서비스에서 사고를 예방하는 거 쉽진 않다. 페이스북의 경우 하루에만 약 13억 명 가량이 방문한다. 아프리카TV에도 하루에만 수천 개의 방이 개설된다. 이런 엄청난 규모 때문에 사전 예방이 쉽지 않다.

생방송 서비스 콘텐츠 제재 정책 비교. 구글 유튜브의 경우 충분한 답변을 보내오지 않아 제외함.(이미지=지디넷코리아)

그렇다면 실시간 동영상 서비스 제공업체들은 어떤 대책을 세우고 있을까?

지디넷코리아는 페이스북, 유튜브, 카카오TV, 아프리카TV 등 국내외 대표 동영상 서비스에 공통 질문지를 보내, 유해한 실시간 방송 콘텐츠에 대한 정책과 처리 절차 등을 물었다. 특히 이 질문에선 최근 문제가 된 대표적인 사례를 예시로 제시, 각사의 구체적인 대응책도 들어봤다. (유튜브는 지디넷코리아의 질문에 답을 보내오지 않았다. 그래서 이번 기사엔 유튜브 관련 내용은 포함되지 않았다.)

■ 길거리 인터뷰 방송, 폭력 상황이 송출된다면?

주기적으로 길거리 즉석 인터뷰를 진행하는 A씨. 평소처럼 길거리를 돌아다니는데 취객끼리 시비가 붙은 장면이 목격됐다. A씨가 시청자를 의식해 자리를 잡고 취객 다툼을 생중계할 경우 플랫폼 사업자들은 어떻게 대응할까.

아프리카TV는 타인에 대한 무단 촬영(초상권 침해)을 했기 때문에 경고 및 이용정지를 진행해 송출이 불가능하도록 처리한다. 또 내용면에서도 폭력적이기 때문에 제재 대상이라는 것이 회사 설명이다.

카카오TV는 자체 모니터링을 통해 해당 콘텐츠를 인지했을 경우 방송 진행자에게 1차 경고를 보낸다. 이 진행자가 2차 경고까지 무시할 경우 자동 방송종료 조치를 취한다. 이럴 경우 해당 방송 진행자에게는 규제카드가 부여된다. 규제 카드를 세 번 받을 경우 삼진아웃제가 적용돼 영구 정지 조치를 받게 된다.

페이스북은 신고 시스템을 통해 해당 유해 콘텐츠를 인지하게 되면, 전문 인력이 검토하고 커뮤니티 규정에 위배될 경우 해당 콘텐츠를 삭제한다. 해당 예시는 페이스북이 커뮤니티 규정에 명시한 ‘범죄활동’, ‘직접적인 위협’ 등에 해당된다. 다만 해당 게시물을 올린 사용자에 대한 처리 원칙은 없었다.

■ 개인 방송에서 자살 언급하고 시도한다면?

평소 종종 개인방송을 진행하던 B씨. 어느 날 방송을 시작하면서 시청자 n명이 모이면 1시간 후에 자살하겠다고 발표를 했다. 그간 시달려온 악플로 삶의 의욕을 잃었다는 것이 자살의 이유. 이를 본 시청자들은 반신반의하는 반응인데, 한 시청자가 혹시 몰라 해당 방송을 회사에 신고했다면 어떤 조치가 취해질까.

신고를 받은 아프리카TV는 해당 방송을 종료함과 동시에 바로 경찰에 알린다. 경찰청과 업무 협약 프로세스 운영 절차에 따른 조치다. 자살시도의 개연성이 충분하고, 구체적인 명시가 있을 경우 방송을 못하게 선처리한다. 그런 다음 곧바로 영구정리 처리하게 된다.

카카오TV는 이전 사례와 마찬가지로 방송 진행자에게 1차 경고를 보낸다. 2차 경고까지 무시할 경우 자동 방송종료조치된다. 아울러 아프리카TV와 마찬가지로 경찰에 사고 가능성이 있다고 신고한다.

페이스북도 앞선 사례와 마찬가지로 자해 또는 자살을 부추기는 행위를 허용하지 않는다. 이 같은 콘텐츠에 대한 신고 접수가 들어올 경우 앞선 사례와 마찬가지로 전문 인력이 검토하고 커뮤니티 규정에 위배됐다는 판단이 내려지면 해당 콘텐츠를 삭제한다.

위 예시를 종합해 보면 세 플랫폼 모두 자살 암시나 시도에 대한 콘텐츠에 대한 문제 인식은 같다. 다만 아프리카TV는 해당 방송을 한 진행자에 대한 제재 조치가 이뤄지지만, 카카오TV와 페이스북은 이에 대한 언급이 따로 없었다.

■ 노출이 과한 의상으로 방송을 진행한다면?

뷰티 크리에이터로 인기를 끌고 있는 C씨가 오늘은 기초 피부 관리에 대한 팁을 공유하겠다며 PC 카메라 앞에 섰다. 그런데 이를 본 한 시청자가 “노출이 심하다”며 해당 방송에 나이제한을 걸어달라고 요청을 보냈다. 이럴 경우 플랫폼 사업자들은 어떻게 대응할까.

아프리카TV는 방송 주제 또는 내용에 청소년이 봤을 때 선정적인 요소(신체, 속옥 노출)가 포함돼 있을 경우 내부 규정에 따라 19세 제한을 건다. 그러나 이번 예시처럼 새하얀 민소매를 입었다고 해서 무조건 19세 설정을 진행하진 않는다.

방송의 전체 내용을 중시하는데, 만약 과도한 노출 의상을 착용하거나 해당 의상과 함께 선정적으로 보이는 춤을 추는 경우, 또는 카메라 각도를 고의적으로 가슴과 같은 특정 신체부위로 조정한 경우라면 '19세 이상' 설정한다는 원칙이다.

카카오TV 역시 단순히 민소매 의상을 입고 방송을 진행했다고 해서 문제가 있다고 판단하지는 않는다. 다만 이런 내용의 신고가 들어왔다는 안내를 방송 진행자에게 보내는 조치를 취한다. 이처럼 규제 수위가 모호한 경우는 해당 영상을 보고 판단하며, 집중해서 모니터링 한다는 것이 카카오TV의 설명이다.

페이스북은 이번 예시에 대한 직접적인 언급은 피했다. 다만 콘텐츠에 나체 이미지를 포함하는 경우가 있는데, 그 목적이 캠페인이나 예술 프로젝트를 알리려는 이유라 하더라도 문화적 배경이나 연령 문제로 민감한 반응이 나올 수 있기 때문에 제한된다는 규정을 소개했다.

또 신속한 대응을 위해서는 일정한 방식으로 쉽게 적용할 수 있는 정책 기준이 필요하므로 생각보다 엄격한 콘텐츠 제한 조치가 취해질 수 있다는 입장이다.

■ 불법 콘텐츠 대처 인력 규모와 절차는?

페이스북은 세계 각지에 교육을 거친 전문 인력들이 있고, 신속하고 정확한 신고 검토가 효율적으로 이뤄질 수 있는 시스템을 24시간 운영 중이라고 밝혔다.

특히 페이스북은 내년까지 해당 팀에 3천 명(글로벌 기준)을 추가 고용할 계획이라고 설명했다. 다만 한국 서비스 전담 인력이 어느 정도 규모인지는 공개하지 않았다.

카카오TV는 전 서비스 공통으로 300여명의 모니터링 직원들을 갖추고 있으며, 자체 모니터링과 사용자 신고 시스템을 24시간 운영 중이라고 답했다. 그러나 카카오TV만을 위한 전담 인력이 따로 있는 형태는 아니었다.

아프리카TV는 유해 콘텐츠 차단을 위한 인력을 50여명 갖추고 있으며, 이들이 주간/야간/새벽 3교대로 365일 24시간 모니터링을 실시한다고 설명했다. 또 실시간 신고 기능, 신고 접수 기능을 도입했으며, 유해 콘텐츠에 대한 검색을 원천 차단하는 시스템을 도입한 상태라고 알렸다.

구글 유튜브는 실시간 방송 전 ▲운영자가 유튜브 계정 확인을 통해 채널 인증을 받았는지 ▲최근 90일 동안 채널 이용약관 위반 경고를 받은 적 없는지 ▲실시간 스트림 콘텐츠가 모든 국가에서 차단된 바 없는지 등을 검증한다고 밝혔다.

아울러 실시간 영상에 대해 신고가 들어올 경우 콘텐츠가 정책을 위반하는지 검토하는 전담 팀이 있어 신속하게 조치를 취한다고 알렸다. 그러나 전담 팀 소재지와 규모는 밝히지 않았다.

■ 실시간방송 플랫폼, 유해 콘텐츠 정책 비교해보니…

종합하면 실시간 방송 서비스를 제공하는 플랫폼 사업자들 모두 사건 사고에 대한 나름의 정책과 인력 등은 보유한 것으로 나타났다.

카카오TV와 아프리카TV 등 국내업체들은 전담 모니터링 인력이 내부에 있고, 이들이 24시간 모니터링과 신고 접수 시 최대한 바로 대응하려는 노력이 눈에 두드러졌다.

국내에서 큰 인기인 페이스북과 유튜브의 경우 불법 콘텐츠에 대한 기준도 나름 명확하고 구체적인 편이다. 특히 이용자 수가 가장 많은 페이스북의 경우 내년까지 3천 명 모니터링 인력을 보강할 계획이란 부분이 인상적이었다.

다만 국내 서비스만을 위한 전담 인력이 어느 정도인지, 얼마나 처리 절차가 신속하게 이뤄지는지 등에 대한 부분을 투명하게 공개하지 않은 것은 아쉬웠다.