페북·유튜브, 코로나19로 '전면 AI리뷰' 앞당기나

페이스북, 유튜브 등이 인공지능(AI) 편집을 안착시킬 수 있을까?

코로나19로 원격 근무가 확대되면서 주요 소셜 플랫폼들이 또 다른 시험대에 오르게 됐다. 어쩔 수 없이 확대 적용한 AI 편집 때문이다.

페이스북, 유튜브, 트위터 등은 최근 콘텐츠 모더레이터들이 하던 작업을 자동화된 AI 기술로 대신하기로 했다.

콘텐츠 모더레이터들이 원격 근무를 하지 않는 건 작업 자체의 특수한 성격 때문이다. 이들의 주된 역할은 플랫폼 내에 올라온 혐오 발언, 아동 성 학대, 테러 관련 콘텐츠를 걸러내는 일이다.

문제는 이들이 걸러내야 하는 콘텐츠 중엔 굉장히 충격적인 내용들이 많다는 점이다. 성폭행, 고문, 참수, 자살 등 자극적인 영상들을 수시로 접하게 된다. 그렇기 때문에 집에서 작업할 경우 가족들에게도 좋지 못한 영향을 끼칠 수도 있다.

실제로 페이스북에서 근무하던 콘텐츠 모더레이터들은 회사를 상대로 집단 소송을 하기도 했다. 콘텐츠 검열 작업 이후 외상후 스트레스가 생겼다는 게 그 이유다.

■ 맥락 이해 필요한 콘텐츠에선 잘못된 판단 꽤 있어

페이스북 등이 콘텐츠 검열 작업을 자동화하기 위해 많은 투자를 해 온 건 이런 사정과도 관련이 있다. 언젠가는 부적절한 콘텐츠를 AI가 자동으로 걸러주는 시스템을 구축하는 걸 추진해 왔다.

그런데 코로나19 때문에 전면 시행 시점이 앞당겨지면서 새로운 시험대에 올랐다. 실제로 최근 페이스북 이용자들 사이에선 정당한 뉴스 링크 같은 것들이 차단 당했다는 등의 불만이 늘고 있다.

실제 상황도 크게 다르지 않다. ‘AI 모더레이터’에 대한 기대는 크게 높지 않다. 마크 저커버그 역시 “단기적으론 콘텐츠 모더레이션 작업가 예전만 못할 것”이라고 인정했다. AI 시스템이 배워야 할 게 아직 많다는 얘기다.

미국 IT 전문 매체인 프로토콜이 이 부분에 대해 좀 더 자세하게 전해주고 있다.

프로토콜에 따르면 그 동안 머신러닝 기술이 발전하면서 자동 검열 시스템 정확도가 상당히 향상됐다.페이스북 같은 경우 테러리스트들의 선전, 선동 콘텐츠는 이용자들이 신고가 접수되기 전에 98% 이상 자동으로 걸러냈다.

반면 혐오 발언 관련 콘텐츠를 제대로 걸러내는 비율은 80% 수준에 머물렀다.

왜 이런 차이가 나는 걸까? 프로토콜에 따르면 “후자는 보는 관점에 따라 해석이 필요하기 때문”이다.

AI는 누가 봐도 명백하게 나쁜 콘텐츠는 쉽게 걸러낼 수 있다. 하지만 어떤 사람이 항의나 경각심을 고취하기 위해 올린 콘텐츠 같은 경우엔 처리 방식이 미묘해진다. 맥락을 제대로 읽어야 하기 때문이다.

이런 맥락을 무시한 채 차단할 경우 과잉 검열 논란에 휘말리게 된다. 페이스북이 ‘콘텐츠 모더레이터’들을 돌려보낸 뒤 발생한 몇몇 사례들이 대표적이다.

■ "코로나 비상 상황이 AI 모더레이터 혁신 계기될 수도"

유튜브는 이런 상황을 감안해 코로나19 기간 내에는 “폭력적인 게 확실한 상황”이 아닐 경우엔 제재를 하지 않기로 했다. 또 실시간 중계 영상에 대해서도 각별한 신경을 쓰기로 했다.

이와 함께 유튜브는 자동 평가시스템의 판단 결과를 토대로 계정을 영구 정지시키는 일은 없도록 했다.

트위터는 ‘유해’ 콘텐츠 범주에 코로나19 관련 내용도 포함시켰다. 특히 전 세계 관계기관이나 보건당국의 권고와 정면 배치되는 내용들은 ‘유해 콘텐츠’로 취급한다.

트위터도 유튜브와 마찬가지로 자동 평가시스템의 판단을 기준으로 계정 영구정지 조치는 내리지 않기로 했다.

관련기사