메타·스냅·틱톡, 자살 콘텐츠 퇴치 프로그램 참여

콘텐츠 확산 막기 위한 '트라이브(Thrib) 프로그램' 구성

메타가 스냅, 틱톡과 자해와 자살  조장하는 콘텐츠 확산을 막기 위한 트라이브(Thrib) 프로그램을 구성했다.

12일(현지시간) 더버지, 테크크런치 등 외신에 따르면 메타, 스냅, 틱톡이 자해와 자살을 묘사하거나 조장하는 그래픽 콘텐츠의 확산을 막기 위해 트라이브라는 새로운 프로그램을 설립했다. 트라이브는 참여 기업들이 위반 콘텐츠를 서로에게 경고할 수 있도록 '신호'를 공유할 수 있다.

트라이브는 정신 건강 관련 대화를 둘러싼 낙인을 없애기 위해 일하는 자선 단체 정신 건강 연합(Mental Health Coalition)과 함께 설립됐다.

gpt4가 만든 이미지

메타는 플랫폼 간 신호 공유 기술을 제공하여 신호가 안전하게 공유될 수 있도록 기술 인프라를 제공한다. 이는 아동 학대를 방지하기 위한 랜턴(Lantern) 프로그램에서 사용하는 동일한 기술이다. 참여 기업들은 위반 콘텐츠와 일치하는 해시를 공유하여 이를 서로 경고할 수 있다.

메타는 이미 플랫폼에서 이러한 콘텐츠를 찾기 어렵게 만들었지만, 홍보나 그래픽 설명을 제공하지 않는 한 사람들이 자신의 정신 건강, 자살, 자해 스토리에 대해 논의할 수 있는 여지를 두고 있다. 단 이러한 콘텐츠가 조장하거나 그래픽한 설명을 제공하지 않는 한 허용하고 있다.

메타의 차트에 따르면 메타는 매 분기 수백만 건의 자살 및 자해 콘텐츠에 대한 조치를 취하고 있다. 지난 분기에는 약 2만5천개의 게시물을 복원했으며, 대부분 사용자가 이의를 제기한 후 복원했다.