페이스북 "커뮤니티 규정은 돌에 새겨진 것 아냐”

“커뮤니티 규정은 돌에 새겨진 것이 아니다. 사회적 변화와 함께 진화하고 변화해야 한다.”

페이스북이 사회적 변화와, 이용자들의 목소리에 맞춰 커뮤니티 규정과 관련 기술을 끊임없이 발전시켜 나가고 있다고 밝혔다. 특히 인공지능(AI) 기술을 활용함으로써 이용자가 신고하기 전에 혐오 발언 등을 미리 감지하고 차단하는 사례가 크게 증가했다고 강조했다.

페이스북코리아는 12일 ‘페이스북 커뮤니티 규정 연례 브리핑 세션’ 온라인 행사를 열었다. 이를 통해 페이스북 커뮤니티 규정이 어떻게 만들어졌는지, 어떤 과정을 통해 현실의 변화를 수용하고 규정을 개선해 나가고 있는지 등을 설명했다. 발표는 페이스북 아시아태평양지역 유동연 콘텐츠 정책 매니저가 맡았다.

전세계 커뮤니티 운영 인력 3만5천여명...사회적 분위기와 맥락까지 고려

페이스북 커뮤니티 규정이란 페이스북 세상 내에 존재하는 일종의 법과 같다. 이용자들이 지켜야할 수칙으로, 만약 이를 어기면 게시물이 삭제되거나 계정이 차단된다. 이 회사는 ▲폭력 및 범죄행위 ▲안전 ▲불쾌한 콘텐츠 ▲무결성 및 진실성 ▲지식재산권 등으로 나눠 이용자 게시물의 적정성을 평가하고, 문제가 있을 경우 조치를 취하고 있다.

유동연 매니저에 따르면 콘텐츠 정책팀은 새로운 트렌드와 자체 규정의 차이가 크게 벌어졌을 때, 변화에 맞는 초안을 작성한다. 이어 우선순위를 정한 뒤 관련 팀과 구성원들을 소집해 규정 개정에 대한 논의 작업을 진행한다. 이후 의견이 모아지면 새 규정을 업데이트 한다. 이 과정은 총 3~4개월 정도 소요된다.

페이스북은 커뮤니티 규정 운영을 위해 전세계에서 3만5천여 명의 인력을 투입한 상태다. 이는 2017년 대비 3배 늘린 수치로, 이 중 1만5천여 명은 신고된 페이스북과 인스타그램 콘텐츠를 리뷰하는 인력이다. 담당자는 언어뿐 아니라 해당 국가의 정치적, 사회적 분위기와 맥락을 잘 이해하는 인력으로 구성했다는 것이 페이스북 설명이다.

하루 이용자 신고만 100만 건...AI가 1차 필터링 역할

페이스북이 하루에 받는 이용자 신고는 100만 건 이상이다. 날로 늘어나는 수치에 페이스북은 지난 5년 간 AI에 투자함으로써 규정을 위반하는 콘텐츠를 감지하고, 삭제 조치해 왔다. 또 AI가 판별하기 어려운 게시물은 사람이 꼼꼼히 살펴볼 수 있도록 하는 역할도 하고 있다. 다만 사람에 따라, 맥락에 따라 말의 진의가 다르게 해석될 수 있어 현재 AI는 유해 게시물의 1차 필터링 역할을 하는 정도다.

아직 한계가 있음에도 페이스북 AI는 올 2분기 기준 혐오 발언의 95%를 이용자 신고 전에 미리 감지했다. 조치를 취한 콘텐츠 양 또한 1분기 960만건에서 2분기 2천250만 건으로 증가했다. 인스타그램의 혐오 발언 감지율 역시 올 1분기 45%에서, 2분기 84%로 39%p 늘었다.