방미심위, 'AI·자율규제'로 20만건 심의 적체 뚫을까

사후 삭제 넘어선 '선제 차단' 체계 구축 필요..."플랫폼사 협력 강화가 관건"

고광헌 방송미디어통신심의위원회 위원장을 필두로 닻을 올린 방미심위 앞에 ‘심의 적체’라는 숙제가 놓였다. 방미심위 전신인 방송통신심의위원회 기능이 중단되며 올해 1분기 기준 마약, 도박, 딥페이크 성 착취물 등 심의물은 20만 건 넘게 쌓였다.

고 위원장은 지난 16일 취임식에서 “심의의 기준과 방식, 규제의 실효성을 시대 변화에 맞게 점검하고 개선해야 한다”며 “불법 정보를 지금보다 더 신속하게 차단하는 대응 체계를 마련하겠다”고 밝히며 AI 기술 활용을 구체적 방안으로 제시했다.

16년 새 심의 대상 12배 늘었는데 인력은 2배 증원

고 위원장이 짚었듯 직원이 하나하나 심의물을 보고 처리하는 방미심위의 개별 확인 방식은 늘어난 심의물을 대응하기엔 역부족이다.

지난 1일 고 위원장 대상 국회 인사청문회에선 방미심위 심의 시스템의 구조적 문제가 드러났다. 이주희 더불어민주당 의원은 “통신 심의 건수는 2008년 약 3만 건이었는데, 2024년 약 35만 건으로 12배가량 증가했고, 직원 1인당 담당 심의 건도 약 8배가 증가했다. 반면 인력은 그 사이 2배 정도밖에 늘지 않았다”고 말했다.

그러면서 심의 적체 해결과 신속한 심의를 위해 구조의 변화가 필요하다고 짚었다. 이 의원은 “인력을 확충하고 심의 횟수를 늘리는 것도 중요하지만 방미심위가 수십만 건을 일일이 들여다보는 심의 구조는 물리적인 한계에 봉착했다”고 지적했다.

방송미디어통신심의위원회 (사진=지디넷코리아)

“AI 도입도 결국 사후 처리...사전 차단 방식으로 패러다임 변화해야”

고 위원장이 언급한 AI 기술 도입이 심의 적체의 해결 방안이 될 수 있는지에도 의문이 제기됐다. 

방미심위가 최형두 국민의힘 의원실에 제출한 자료에 따르면, 방미심위 AI 심의는 오식별 문제, 정상 콘텐츠 차단 사례 등이 발생하고 있다. 최 의원은 “방미심위가 진행하는 DNA 필터링 등 AI 심의는 식별률이 저조하고 기술 수준이 빅테크 기업의 콘텐츠 관리 알고리즘에 비해 뒤처져 오판율이 높다”고 꼬집었다.

이에 고 위원장은 “미흡한 AI 기술을 고도화하겠다”고 답했으나 한번 퍼지면 영구 삭제가 어려운 디지털 유해 콘텐츠 특성상 AI든 사람이든 이미 심의물이 유통된 후 조치하는 기존 ‘사후 처리’ 시스템은 심의물 차단의 근본적 대책이 될 수 없다는 우려가 제기됐다.

방미통위는 ‘어떻게 심의 적체를 해결할까’와 더불어 ‘어떻게 심의 적체를 만들지 않을까’도 고민해야 하는 시점이다. 정치권에선 플랫폼사가 자체 알고리즘과 유해 정보 확산 방지 시스템으로 선제 조치하면, 국가가 그걸 감시하는 협력 체계 등 ‘사전 차단’으로의 심의 체계의 전면적 개편이 필요하다는 제언이 나왔다.

한민수 더불어민주당 의원은 “방미심위에서 네이버, 구글, 메타 등 플랫폼 사업자와 협력 체계를 보다 원활하게 구축하면 불법 정보에 대한 정식 심의 절차에 앞서 자율 심의를 통한 선제적 조치를 보다 강화해서 시행할 수 있다”고 강조했다.

‘자율규제’ 실효성 의심

최 의원실 자료를 보면 방미심위는 ‘자율규제’를 통해 구글, 유튜브, 인스타그램 등 플랫폼사에 유해 콘텐츠 삭제 조치 등 시정 요청을 진행하고 있다. 2024년부터 지난해 상반기까지 요청 건수는 약 11만 건에 달하며, 이 중 X(엑스)가 약 5만 4802건으로 가장 높았고 페이스북 1만 2046건, 인스타그램 1만 1329건, 유튜브 8285건, 구글 1773건으로 그 뒤를 이었다.

문제는 방미심위 요청이 실제 심의물 삭제와 유통 차단으로 이어지는지 확인되지 않는 점이다. 요청 건수만 집계될 뿐, 삭제 이행률과 평균 처리 기간, 재유통 차단율에 대한 통계는 기록되지 않았다. 방미심위 규제 실효성이 의심되는 대목이다.

이해민 조국혁신당 의원은 “실무로 들어가게 되면 플랫폼사와의 협력이 제대로 구축되지 않으면 신속성이 담보되지 않는다”며 “이 부분에 대한 계획을 꼭 마련해달라”고 요청했다.

고 위원장은 플랫폼사와의 협력 강화를 공언했다. 고 위원장은 “플랫폼사와 협력해 자율규제를 강화하는 쪽으로 실질적인 효과를 보도록 하겠다”며 “협력을 강화하기 위해 방송미디어통신위원회와 협의해 대안을 마련하겠다”고 말했다.