디지털 성범죄, AI도 수사도 끈질겨야 잡힌다

[이슈진단+] 제2의 n번방-박사방 막으려면 ①

미성년자를 포함한 여성 성착취 범죄 영상을 제작하고 유포한 텔레그램 n번방·박사방 사건이 국민적 공분을 사고 있다. 가담자의 신상을 밝히고 처벌해야 한다는 국민 청원에 500만명 이상이 참여하고, 문재인 대통령 또한 엄정한 수사를 지시하면서 경찰 수사에 속도가 나고 있다. 범죄 가담자에 대한 철저한 수사와 더불어 사회 각계에서 이 같은 인격살인 범죄가 재발하지 않도록 할 수 있는 모든 노력을 강구해야 한다는 공감대도 형성되고 있다. 이에 제2의 n번방·박사방을 막기 위해 정부와 국회, IT 업계가 어떤 노력을 해야 하는지 살펴본다. [편집자주]

"성인 사이트, 웹하드 등지에서 도주한 디지털 성범죄자들이 메신저를 불법 촬영물 등의 유포 범죄 수단으로 선택한 이유 중 하나는 이러한 플랫폼들이 '사생활 보호’라는 이유로 필터링이나 검열에서 비교적 자유로운 상태로 남아있었기 때문이다. 전 플랫폼에 걸쳐 필터링 기술 활용 의무화가 이뤄진다면 이를 통해 범죄자들의 플랫폼 이전 의지를 꺾는 효과를 기대할 수 있다."

텔레그램 성 착취 신고 프로젝트 '리셋' 측이 텔레그램 n번방 성폭력 처벌 강화 긴급 간담회 제안서에서 디지털 성범죄 문제 해결을 위해 제안한 내용이다.

불법 촬영물, 성 착취물 등 디지털 성범죄물의 특성 중 하나는 '급속도로 유포되지만, 한 번 확산된 이미지나 영상을 완전히 제거하기 매우 어렵다'는 것이다. 영상이 유포된 사이트를 찾아내 일일이 삭제 요청을 하는 방식으로는 근절이 거의 불가능하다. 이 때문에 성범죄물을 일괄적으로 차단, 삭제할 수 있는 기술적 해결책에 관심이 높아지고 있다.

정부는 디지털 성범죄물의 기술적 해결책으로 크게 ▲데이터베이스(DB) 구축 ▲필터링 기술 활용 등을 언급한다. DB 구축은 신고된 성범죄물에 대한 정보를 수집하고, 이 정보를 추가 확산 차단 및 수사에 활용하게 하는 것이다. 필터링 기술은 인공지능(AI) 같은 첨단 기술을 반영해 신고가 접수되지 않은 성범죄물도 신속히 차단하게 하는 방식이다.

이같은 해결책들은 현재 부분적으로 도입되고 있거나 기술 보완을 기다리고 있는 상황이다. 이 해법들을 완벽히 구현하면 디지털 성범죄를 원천 차단할 수 있을까? 이에 대해 전문가들은 "그렇지 않다"고 입을 모았다. n번방 사건에서 알 수 있듯 범죄자들이 정부 제재와 추적을 어렵게 하는 사이버 공간으로 도피하고 있기 때문이다. DB 구축과 필터링 기술을 통한 차단 및 삭제는 해당 서비스 운영자의 협조가 필수다. 때문에 사용자를 추적하기 어렵고, 정부 수사에 비협조적인 텔레그램, 다크웹 등의 플랫폼에 대해서는 무력해질 공산이 크다는 의견이다.

보안업계는 이런 한계를 보완하기 위해 '정부의 끈질긴 범죄 수사'만이 해답이라고 본다. 사실상 답이 없다는 뜻으로 비춰질 수도 있으나, 실상은 그렇지 않다. 디지털 성범죄물이 음지에서 양지로 유포되는 순간, 범죄자들이 수익을 내려는 순간 등을 신속히 포착해 수사에 착수하는 체계가 마련돼야 한다는 의미다. 또 이런 체계가 장기적이고, 안정적으로 운영되도록 정부의 강력한 대응 의지가 필요하다는 얘기다.

텔레그램

■ DNA DB·필터링은 성범죄물 어떻게 차단하나

정부는 지난해 11월 디지털 성범죄물 유포 방지를 위해 방송통신심의위원회, 방송통신위원회, 여성가족부, 경찰청이 통합 관리하는 '공공 DNA DB' 구축 계획을 밝혔다. 각 부처가 관리하던 성범죄물 데이터를 통합해 차단 조치 및 수사에 활용한다는 구상이다.

이는 성범죄물에서 추출한 DNA 값을 DB로 관리하는 방식이다. 방심위 관계자는 "기존에는 생성 시기와 확장자 등 파일 속성을 분석하는 해시값을 사용해 성범죄물을 걸러냈는데, 이 방식은 파일의 속성이 약간만 바뀌어도 성범죄물을 찾아내지 못한다는 한계가 존재했다"며 "이런 한계를 극복하기 위해 파일의 일부를 변형하더라도 걸러낼 수 있는 DNA 필터링 기술을 사용하고, 필터링 사업자들은 DB에 저장된 DNA값을 토대로 웹하드에서의 성범죄물 차단에 활용하고 있다"고 설명했다.

현재 공공 DNA DB는 방심위와 방통위 간 데이터 연계가 이뤄진 상태다. 여가부와 경찰청에 대해서는 데이터 연계 시스템 구축 작업이 진행되고 있다. 방심위 관계자는 "작년 11월 각 기관들과 MOU를 체결할 당시 관련 예산이 반영돼 있지 않았다"며 "내년쯤 시스템 연계가 완료될 것으로 예상하고 있다"고 답했다. 방심위는 우선 현재 갖추고 있는 기반 시설을 사용해 여가부와 경찰청 데이터 연계를 추진하고 있으며, 올 상반기까지 이를 마무리하는 것을 목표로 둔 상황이다.

4개 기관 공동 DNA DA 시스템

현재 이같은 필터링은 웹하드 사이트에만 적용되고 있다. 방심위는 실효성 있는 규제를 위해 이 필터링을 국내 IT 플랫폼 전반에 도입해야 한다는 방향성에 공감하고 있다. 단, 필터링 전면 도입에 기술적 제약이 있다. 하나는 DNA 필터링 기술이 표준화돼있지 않다는 점이다. 필터링 기술 보유 사업자마다 방식이 다르기 때문에 추출되는 DNA 값도 제각각이다. 이는 효율적인 성범죄물 차단을 방해한다.

국내뿐 아니라 해외 서비스 유포 성범죄물을 필터링 하는 방안도 고민 중이나 아직 구체화되진 않았다. 방심위는 해외 사이트의 성범죄물 유포 상황을 감시하는 모니터링 시스템을 구축하기 위해 예산을 마련해야 한다는 입장이다.

불법 촬영물 피해자와 연관된 영상을 자동으로 분류해내는 기술도 탐색 중이다. 방심위 관계자는 "현재의 필터링 방식은 이미 등록된 영상을 차단하고, 음란물 여부를 파악하는 기술로 개발돼 있는데 불법 촬영물 여부를 판단해낼 수 있는 기술력은 부족한 상황"이라며 "불법 촬영물의 경우 영상이 일정한 기간을 두고 여러 차례 유포되는 경우가 많아 이를 해결할 수 있는 방식을 고민하고 있다"고 말했다.

■ '디지털 성범죄' 필터링에 AI도 도입

정부는 더 나아가 AI를 활용하는 방안도 준비 중이다. 지난해 1월 발표한 '웹하드 카르텔 방지 대책'에서 AI와 빅데이터 등을 활용해 불법 음란물 차단 기술을 개발한다고 밝혔다. 개발된 기술은 지난 7월부터 여가부 디지털성범죄 피해자 지원센터 업무에 시범 적용됐다. 정부는 이후 방심위 모니터링으로 적용 범위를 넓히고, 웹하드·필터링 사업자, 인터넷 방송 플랫폼 사업자 등에도 기술을 이전한다는 계획을 세웠다.

콘텐츠 필터링 기술은 과거부터 많이 활용돼왔다. 특정 키워드나 이미지 또는 영상에서 차지하는 색상 비중 등을 기준으로 선정성, 폭력성 등 문제의 소지가 있는 것으로 판단될 경우 시스템에 알림이 가거나 자동 삭제 처리 되는 식이었다.

최근에는 이 필터링 기술에 AI가 결합되면서 기존 기술의 한계를 극복하는 모습이 관찰된다. 민간에서 활용 상황을 살펴보면 추후 정부 정책에 기여할 효과도 짐작해볼 수 있다.

네이버의 경우 지난 2017년 음란물 필터링 AI 기술 '엑스아이'를 도입했다. 엑스아이의 작동 방식은 이렇다. 이미지(영상)를 여러 조각으로 나누고, 각 조각들을 검토해 특징을 추출하는 '컨볼루션'을 거친다. 이를 통해 음란물의 특징을 AI가 학습하게 되고, 필터링 대상이 음란물의 특징과 얼마나 유사한지에 따라서 음란물 지수가 측정된다. 이 지수를 기준으로 필터링 여부를 결정하게 된다.네이버 관계자는 "단순히 색상에 따른 분류가 아니라, 실제 사람이 여러 이미지를 접하면서 예술 작품인진 음란물인지를 알 수 있게 되는 것처럼 알고리즘이 이런 분류를 할 수 있도록 학습하게 되는 것"이라며 "블로그, 카페 등 콘텐츠 플랫폼에 엑스아이가 적용돼 있으며, 기술을 출시할 당시 98%의 적중률을 보였다"라고 설명했다.

네이버 '엑스아이'

카카오도 지난 2014년 7월 성인 이미지 필터링에 유사한 방식의 딥러닝 기술을 적용하고 매년 기술을 업데이트하고 있다. 다음 이미지 검색과 카카오TV·블로그·티스토리 등 공개형 서비스 게시판에 게재되는 콘텐츠의 음란물 여부를 자동 분류해 차단하는 식이다. 음원 서비스 멜론 내 앨범 자켓 이미지에 대해서도 자동 분류 기술이 적용되고 있다.

카카오 관계자는 "동영상의 경우 변형이 적고, 비슷한 시기에 특정 영상이 여러 번 게재되는 경우가 많아 기존에 검수한 영상과 중복되는 파일을 찾아 자동 검수하는 작업이 가능하다"며 "영상 프레임에서 특징을 뽑아 양자화(quantization)시켜 특정 길이의 숫자로 구성된 DNA값을 만들고, 이 숫자를 비교해 중복 여부를 판단하게 된다"고 답했다.

카카오톡의 경우 통신비밀보호법 등 규제와 이용자 프라이버시 보호 등의 이유로 이같은 자동 차단 기술은 적용돼 있지 않다. 카카오 관계자는 "오픈채팅 상에서 이뤄지는 불법 행위 관련 대화와 피싱은 제재하고 있다"며 "유해 콘텐츠 필터링은 운영 정책, 프라이버시 등의 문제로 신중히 고민하는 부분"이라고 덧붙였다.

카카오가 개발한 '성인(스팸) 이미지 추천 시스템'

■ 치외법권 속 디지털 성범죄도 결국 드러나는 순간 있다

성범죄물 모니터링·필터링 방식이 고도화되고 있으나 여기에 마냥 의존할 수는 없다. 서비스 플랫폼의 적극적인 협조를 전제로 하는 해결책이기 때문이다.

범죄자들이 텔레그램과 다크웹을 찾는 이유가 이 때문이다. 텔레그램은 정부의 사이버 검열으로부터 사용자를 보호하기 위한 목적으로 개발됐다. 한국 정부가 범죄자 처벌을 위한 협조를 요청해도, 이를 수용할 가능성이 낮다는 관측이 우세하다.

텔레그램은 기본적으로 성범죄물 등 불법 콘텐츠에 대해서는 자체적으로 삭제한다는 입장이다. 텔레그램은 아동 성 학대 신고 채널을 운영하면서 매일 200여건의 성 범죄물을 삭제하고 있다.

텔레그램 아동 성 학대물 신고 채널

보안업계 관계자는 "텔레그램은 사용자의 대화 내역을 공개하지 않는 것이 설립 목적 자체이기 때문에 대화 내역을 외부에 공개한다면 더 이상 텔레그램이 아니게 된다"며 "국내 수사에 협조하지 않을 확률이 크다"고 예상했다.

문종현 이스트시큐리티 이사는 "텔레그램 등 보안 메신저에서 나타나는 범죄 행위에 대한 완벽한 대응은 이상에 가까운 일"이라며 "해외 서비스를 무조건 차단하는 식의 대응도 한계가 있고, 이는 국제적으로도 수용되기 어려운 정책이라 현실적으로 도입이 어렵다"고 지적했다.

대신 음지화된 범죄가 일반 웹 또는 현실 상으로 노출되는 순간을 포착해 수사 기회로 삼을 수 있다는 의견이 나왔다.

보안업계 관계자는 "집안에서 가족 구성원에게 영상을 전달하는 걸 정부가 일일히 다 알 수는 없듯이, 닫힌 공간에서의 범죄 행위를 정부가 막을 방법은 없다"면서도 "디지털 성범죄는 음지화된 공간에서만 유포되는 것이 아니라 시간이 지나면 커뮤니티 등 일반적인 웹사이트로도 확산되는 경향이 있는데 이런 부분을 노려 수사할 수 있을 것"이라고 말했다.

이번 사건처럼 성범죄물을 암호화폐로 수익화하는 정황이 나타났을 때, 신속하고 정확하게 범죄자를 추적할 수 있는 체계 구축 필요성도 제기됐다.

문종현 이사는 "이번 사건을 검거하는 데에도 암호화폐 거래소를 통한 정보 공유가 어느 정도 도움이 됐다"며 "범죄 수익에 암호화폐가 많이 악용되는 만큼, 정부 차원에서 국내 암호화폐 거래소들과 협력 체계를 구축해 이상 징후에 신속히 대응할 수 있는 시스템을 구축할 수 있지 않을까 싶다"고 제안했다.

이어 "무엇보다 이런 범죄 대응 시스템을 체계화하고, 보강해야 할 필요성이 크다"며 "정부 차원에서 장기적이고 연속적인 대응 조직을 운영하는 등 사이버범죄 감시 프로세스를 갖춰야 할 것"이라고 덧붙였다.

보안업계 다른 관계자는 "다크웹에 대한 수사가 원칙적으로는 난이도가 높지만, 수사기관이 얼마나 노력하는지에 따라 가능성이 매우 달라진다"며 "가령 불법적인 수단도 범죄자 수사에 활용할 수 있게 하자는 사회적 합의가 이뤄지면 수사 여건이 나아지게 될 것"이라고 말했다.