페북, 악성 콘텐츠 '클로킹' AI로 차단

수천 건 이상 적발…"페이지-계정 삭제 조치"

페이스북이 악성 콘텐츠를 일반 게시물로 위장하는 이른바 ‘클로킹’ 수법 차단 시스템이 성공적인 결과를 거뒀다고 10일 밝혔다. 인공지능(AI) 기술과 전문인력 증원에 따른 성과다.

클로킹은 금전적인 이익을 목표로 악용되는 방식 중 하나다. 일반 게시물로 위장한 링크를 통해 당국의 승인을 받지 않은 의약품이나 음란물처럼 유해한 사이트로 사람들을 유인할 때 사용된다.

클로킹은 게시물 관리자의 IP를 자동으로 판별한다. 해당 IP가 게시물을 모니터링할 때는 정상적인 웹사이트로 연결하는 반면, 일반 사용자가 링크를 클릭하면 악성 웹사이트로 연결한다. 이런 수법으로 페이스북 커뮤니티 규정을 위반하는 악성 게시물 모니터링 작업에 혼선을 초래했었다는 설명이다.

페이스북이 클로킹 콘텐츠를 차단하기 위해 AI와 인력을 활용했다.

페이스북은 이러한 클로킹 수법에 대응하기 위해 지난 수 개월간 광고, 게시물, 페이지 관련 모니터링을 확대하고 정책을 강화했다. 특히 클로킹 게시물 검토를 위해 AI를 활용하고 모니터링 전문 인력을 추가로 투입했다.

그 결과 커뮤니티 규정을 위반한 것으로 판단되는 게시물이나 페이지, 계정 등에 삭제 조치를 내렸다. 현재까지 클로킹 관련 사례로 적발된 경우는 수천 건에 달한다. .

페이스북은 향후 다른 기업들과의 협업을 통해 허위 콘텐츠와 광고를 차단하는 노력을 강화할 것이라고 밝혔다. 또 커뮤니티 규정 및 광고 정책 위반 사례를 효과적으로 관리할 수 있는 다양한 방법도 지속적으로 모색해 나갈 예정이다.