'텔레그램'발 성범죄물 접근 막는 청소년 보호 앱 나온다

인터넷 사업자가 불법 촬영 등 디지털 성범죄물 유통을 방지해야 하는 'n번방 방지법'이 시행을 앞둔 가운데, 앱 상에서 디지털 성범죄물을 탐지, 차단할 수 있는 서비스가 개발돼 주목을 받고 있다.

서비스가 상용화되면 n번방 사건처럼 '텔레그램' 등 보안 메신저 상에서 유통되는 성범죄물에 청소년들이 노출되는 것을 막아줄 수 있다는 설명이다.

13일 유해 콘텐츠 차단 서비스 전문 기업 플랜티넷은 이같은 성격을 지닌 신규 서비스 '엔블록'을 출시할 예정이라고 밝혔다.

플랜티넷은 지난 2000년 설립 이후 인터넷 상에 유통되는 유해 콘텐츠를 차단하는 서비스를 제공해왔다. 현재 KT, SK브로드밴드, LG유플러스 등 국내 통신 3사와 대만 통신사 중화전신, 베트남 통신사 VNPT에 서비스를 공급 중이다.

기존 서비스는 이미지나 영상 파일 형태의 유해 콘텐츠를 차단하는 데에 초점이 맞춰져 있었다. 그러나 최근 메신저 앱 또는 영상 스트리밍 사이트로 유해 콘텐츠 유통 경로가 바뀌는 현상을 포착하고, 이에 대응하는 기술을 연구해 엔블록을 개발했다.

현재 엔블록은 베타 버전까지 개발된 상태다. 기존 서비스에서도 다루던 ▲유해 앱 ▲유해 사이트 외, ▲유튜브 ▲카카오톡, 텔레그램 등 메신저 앱 ▲다크웹 ▲랜덤채팅 앱 등 유해 콘텐츠가 유통되는 여섯 가지 경로에 따라 기능이 구성돼 있다.

엔블록을 활성화하면 유튜브에서 재생되는 영상을 인공지능(AI)이 실시간으로 디지털 성범죄물인지 판단, 필요 시 영상 재생을 차단해준다.

유튜브 등에서의 유해 콘텐츠 차단에 활용되는 AI에는 지난 20여년간 회사가 유해 콘텐츠 차단 서비스를 운영하면서 확보한 유해 콘텐츠 데이터베이스(DB)가 반영됐다. 이를 통해 기존에 탐지된 디지털 성범죄물을 차단하고, 사전에 탐지되지 않은 유해 콘텐츠에 대해서는 DB를 토대로 성범죄물의 특성을 탐지한 AI가 차단 여부를 판별한다.

플랜티넷 관계자는 "영상 콘텐츠의 유해성 여부를 프레임별로 쪼개 판단하는데, 영상의 색상이나 영상 속 등장하는 신체 특정 부위를 인지하는 기술 등이 반영됐다"며 "딥러닝 기반 이미지 분류 기술 관련 특허도 출원하는 등 서비스 효율과 정확도를 높이기 위한 기술 연구를 지속하고 있다"고 설명했다.

메신저 앱의 디지털 성범죄물 유통 차단 의무화는 n번방 방지법 도입을 앞두고 특히 논란이 됐던 사안이다. 인터넷 업계는 실제 문제를 초래한 텔레그램에 대한 규제로는 실효성이 떨어지고, 국내 메신저 앱에 대해서는 사용자 간 공유되는 콘텐츠를 검열하도록 강요하는 꼴이 된다며 반대 의견을 고수해왔다.

엔블록을 통한 유해사이트 차단창 이미지(왼쪽)과 다크웹 접속 앱 차단 팝업 이미지.

플랜티넷은 규제 변화에 맞춰 메신저로 유통되는 유해 사이트와 이미지, 영상을 차단할 수 있는 기술을 개발했다고 강조했다. 과거 유해 사이트로 탐지된 URL인지를 검사하는 기능과 함께, 앱 상에서 열람하는 이미지나 콘텐츠를 대상으로 AI 기반 유해 콘텐츠 탐지 기능을 지원한다는 것이다.

이에 대해 플랜티넷 관계자는 "개별 앱의 사용자인터페이스(UI) 환경을 분석해 지원하는 기술"이라며 "현재 이미지 차단은 카카오톡, 영상 차단은 카카오톡과 텔레그램, 휴대폰 갤러리 환경을 지원할 수 있다"고 덧붙였다. 회사는 트위터, 라인 등 타 메신저 앱에 대해 차단 기능을 지원할 방침이다.

보안 메신저 외 성범죄물 유통의 온상지로 지목되는 다크웹 접근 및 성범죄물 접근을 차단하는 기능도 갖췄다. 현재는 다크웹 접속에 사용되는 앱 실행을 차단하는 식으로 구동된다. 회사는 다크웹 분석 전문 기업인 NSHC와 협력해 다크웹 상에서 유통되는 유해 콘텐츠 정보를 분석해 향후 다크웹에서의 유해 콘텐츠 접근을 차단하는 기능도 개발한다는 계획이다.

성범죄 수단으로 악용되곤 하는 랜덤채팅 앱의 경우, 실시간으로 새로운 앱들이 등장한다는 점이 접근 차단을 어렵게 만드는 난제다. 이에 대해 플랜티넷은 실시간으로 앱 마켓을 모니터링해 랜덤채팅 앱 차단 기능을 제공한다고 첨언했다.