"AI 콘텐츠 필터링, 디지털 성범죄 현실적 해법"

'n번방' 사건 이후 청소년을 디지털 성범죄 등 유해물로부터 보호하기 위한 조치가 강화돼야 할 필요성이 커지는 상황에서, 인공지능(AI)을 활용한 유해 콘텐츠 판별 및 차단 기술을 활용하는 사례들이 등장하고 있다.

AI를 활용할 경우 신고에 의존하지 않아도 유해물을 차단할 수 있고, 신고 후 차단 방식에 비해 신속한 조치가 가능하며 심의 인력의 심리적 고통도 덜 수 있다는 점에서 긍정적이다.

다만 현재처럼 개별 사업자 단위로 AI 기반 필터링이 도입될 경우 사각지대가 존재할 수밖에 없다는 것이 한계점이다. 유해물 필터링 기술 도입이 보다 적극적으로 확산되는 것이 바람직하다는 주장이 제기된다.

특히 인터넷 콘텐츠 플랫폼사들에서 이런 기술 활용이 두드러지게 나타나고 있다. 국내 포털 기업인 네이버, 카카오나 글로벌 SNS '틱톡' 운영사 바이트댄스 등이 일례다. 정확도 측면에서 우수한 성과를 보인다고 자평하는 기업도 존재한다.

■"n번방 방지, 유해물 차단 AI 기술 확대 보급이 현실적 대안"

작년 n번방 사건이 이슈화되자 정부는 대응책으로 청소년 유해물 차단 수단 제공이 의무인 이통사 외, 주요 인터넷 플랫폼사에 대해서도 유해물 삭제 의무를 부과한다는 대응책을 내놨다. 이에 부가통신사업자를 대상으로 디지털 성범죄물 유통 방지 조치를 의무화하는 'n번방 방지법'이 도입됐다.

이 법은 해당 사업자들이 유통방지 조치 또는 기술적·관리적 조치 의무를 위반 시 형사처벌도 가능하다는 내용을 담고 있다. 전년도 10억원 이상, 일 평균 이용자 10만명 이상 또는 관련 시정요구를 2년 내 받은 적이 있는 사업자가 대상이다.

그러나 n번방 방지법이 도입될 당시 인터넷 업계 반발이 심각했다. 실제 디지털 성범죄물의 온상인 텔레그램, 다크웹 등에 대한 규제 효과는 미미하고, 국내 인터넷 사업자의 규제 리스크만 키운다는 이유였다.

최성호 방통위 사무처장은 “전기통신사업법과 정보통신망법 개정안은 디지털 성범죄 물이 신속하게 삭제, 차단될 수 있도록 하는 내용”이라며 “인터넷 사업자의 불법촬영물, 딥페이크, 아동청소년 이용 성착취물에 대한 유통방지 의무를 강화하는 것”이라고 n번방 방지법 브리핑에서 밝혔다.

업계에선 정책적인 방식으로는 유해물로부터 미성년자를 제대로 보호하기 어려운 만큼, 일부 사업자들이 활용하는 AI 기반 필터링 기술을 미성년자의 인터넷 이용 전반에 적용하는 방안을 추구하는 편이 효과적이라는 목소리가 나온다.

가령 이통사 유해물 차단 서비스에 이런 기술을 탑재하게 하는 방식을 고려해볼 수 있다. 대만 이통사인 중화전신, 베트남 통신사 VNPT의 경우 유해 콘텐츠 필터링 전국망 서비스를 도입해 사용 중이다.

미성년자 유해물 필터링 기술을 보유한 업체 관계자는 "텔레그램 등 해외 플랫폼은 정부기관의 콘텐츠 삭제 요청에 응하지 않는 경우가 대다수"라며 "필터링 기술을 보유한 기업들의 서비스를 적극 적용해 유해 콘텐츠 노출을 최대한 막는 것이 현실적인 대책이라고 본다"고 말했다.

■네이버·카카오·틱톡, AI로 유해물 차단

AI 기반 유해물 차단 기술을 사용하는 인터넷 플랫폼 서비스 업체 사례들을 살펴보면, AI가 자동으로 플랫폼에 게재된 콘텐츠의 유해성을 판단해 문제가 있는 콘텐츠는 실시간으로 차단하고 있다.

네이버의 경우 지난 2017년부터 실시간 유해물 차단 시스템 '엑스아이'를 사용하고 있다. 이달부터는 2.0 버전을 적용한다. 기존 음란물 여부만 분류하던 것을 세분화해 정상, 음란, 성인, 선정 네 가지 등급으로 콘텐츠를 분류해준다. 회사는 엑스아이 도입 이후 유해 이미지·영상을 98.1%의 적중률로 걸러냈다고 강조했다.