페북, 코로나19·백신 관련 허위정보 1천만개 넘게 지웠다

삭제·감소·알림 전략 통해 유해콘텐츠 문제 해결

최근 미얀마 군부가 운영하는 계정을 폐쇄하는 등 사회를 혼란에 빠뜨리거나 사실과 다른 정보 유통을 막아온 페이스북이 지난 한 해 허위정보에 대해 어떻게 대응했는지 발표하는 자리를 가졌다. 

이 회사는 지난해 3월부터 10월까지 1천200만건의 코로나19 관련 허위 콘텐츠를 삭제했고, 외부 팩트체킹 파트너의 도움을 받아 코로나19 콘텐츠 약 5천만개에 경고 라벨을 붙이기도 했다. 

특히 인터넷을 모바일로 바로 접하는 사용자가 많은 아시아태평양 지역에 한 해 디지털 리터러시 프로그램을 진행하는 등 다양한 방법으로 허위정보 유포를 방지하겠다는 계획을 분명히 해 주목된다.

페이스북은 4일 아시아태평양(아태) 지역 미디어를 대상으로 유해 콘텐츠 관리에 대해 설명하는 간담회를 진행했다. 이 자리에서 페이스북은 인스타그램이나 왓츠앱 등 페이스북이 서비스하는 플랫폼 상에서 허위정보를 어떻게 줄이고 삭제하고 있는지에 대해 공유했다.

먼저 앨리스 버디사트리조 페이스북 프로덕트 정책팀 매니저는 페이스북 내에서 허위정보에 대응하기 위해 ▲삭제 ▲감소 ▲알림 등을 이용하고 있다고 설명했다.

앨리스 버디사트리조 페이스북 프로덕트 정책팀 매니저

유해하고 잘못된 정보를 포함해 커뮤니티 기준을 위반한 콘텐츠나 계정은 삭제하는 방식을 선택하고 있고, 허위 뉴스를 포함해 저품질 콘텐츠는 공유를 줄이기 위해 노력중이며 사람들에게 더 많은 콘텐츠의 맥락을 제공하면서 무엇을 읽고 신뢰하며 공유할지 결정할 수 있게 알림 기능을 제공하고 있다는 얘기다.

허위정보 삭제와 관련해서는 실제 폭력이나 피해로 이어질 수 있는 콘텐츠와 조작된 미디어, 딥페이크 등이 해당된다. 또한 코로나19와 관련된 허위 주장이나 백신에 대한 공포심을 조장하는 주장도 포함된다. 

버디사트리조 매니저는 "지난해 3월부터 10월까지 코로나19 관련 1천200만개의 허위정보 콘텐츠가 삭제됐다"며 "광고 또한 정치적 내용이 담긴 콘텐츠나 특정 국가의 사회적 이슈에 대한 옹호, 논쟁 등이 포함되면 문제가 될 수 있다"고 설명했다.

허위정보 배포나 확산을 줄이기 위한 정책에서 페이스북의 팩트체킹 파트너가 동원된다. 페이스북이 모든 허위 정보를 제거하거나 막는 일을 할 수 없기 때문에 외부 팩트체킹 파트너의 도움을 받고 있다. 회사 측은 "반복적으로 거짓 뉴스를 공유하는 페이지나 도메인 배포도 감소시키고 있다"며 "이익 창출과 광고 기능도 제거하고 있다"고 말했다.

허위정보 알림 기능도 주목할만 하다. 페이스북은 페이스북과 인스타그램에서 거짓 또는 조작된 것으로 판명된 콘텐츠에 '경고' 라벨을 붙인다. 또한 인공지능(AI) 기술을 활용해 이미 팩트체킹 파트너에 의해 평가받은 콘텐츠의 내용과 동일하거나 유사한 콘텐츠는 미리 식별해 자동으로 라벨을 표시하거나 배포를 감소시킨다. 아울러 지난 6월에는 공유하려는 기사가 90일 지난 기사이면, 이를 알려주는 알림 기능을 추가하기도 했다.

버디사트리조 매니저는 "지난 4월에는 외부 팩트체킹 파트너가 게재한 약 7천500개의 기사를 기반으로 코로나19 관련 콘텐츠 약 5천만개에 경고 라벨을 붙였다"며 "왓츠앱에서는 대량 메시지 발송을 막고, 인스타그램에서는 이미지 감지 기술을 사용하는 등 허위정보를 줄이기 위한 노력을 하고 있다"고 말했다.

페이스북 허위정보 알림 기능