"여동생·지인 나체 사진 드려요"…韓, 딥페이크 성범죄↑

100개 대학서 딥페이크방 운영…"법적 세부 기준 내놔야"

생성형 인공지능(AI) 기술을 악용한 딥페이크 성범죄가 늘고 있다. 딥페이크 범죄를 처벌할 수 있는 법적 세부 기준이 마련되지 않아 피해 사례는 더욱 증가할 전망이다.

26일 정보기술(IT) 업계에 따르면 100개 이상 국내 대학과 중·고등학교에서 텔레그램 딥페이크 성범죄가 만연한 것으로 드러났다. 이들은 생성형 AI 기술로 지인 사진과 나체 사진·영상을 합성해 텔레그램 방에 공유한 것으로 전해졌다.

딥페이크는 딥러닝(Deep learning)과 가짜를 뜻하는 페이크(fake)를 합친 용어다. 생성형 AI 기술 등으로 여러 사진을 조합해 가짜 인물이나 영상을 사실처럼 만들 수 있는 기술이다.

생성형 인공지능(AI) 기술을 악용한 딥페이크 성범죄가 늘고 있다. (사진=오픈AI 달리3)

그동안 연예인이나 정치인, 인플루언서 이미지와 음란물을 합성해 유포하는 범죄가 다수였다. 이제 누구나 생성형 AI로 딥페이크 사진과 영상을 생성할 수 있게 됐다. 이에 일반인 피해 사례가 우후죽순으로 늘고 있다.

최근 학생들 사이에서 일반 사진을 나체 사진으로 변형해 주는 생성형 AI 챗봇이 활성화하고 있다. 예를 들어 사용자가 여성 사진을 올리면 생성형 AI가 이를 나체사진으로 바꿔주는 식이다.

서울경찰청에 따르면 학생들은 딥페이크로 제작된 나체사진을 텔레그램 방에 공유한 것으로 전해졌다. 

또 다른 텔레그램 방에서는 여동생이나 여군, 지인 사진을 자체 사진으로 변형해 공유하는 행위도 드러났다. 가족뿐 아니라 친구 사진까지 딥페이크 성범죄 대상물이 된 셈이다.

관련 범죄로 경찰에 붙잡힌 10대 청소년이 서울에서만 올해 10명인 점도 전해졌다. 서울경찰청 관계자는 "올해 1~7월 청소년 10명이 딥페이크 범죄로 검거됐다"고 밝힌 바 있다.

현재 딥페이크 성범죄 처벌법이 마련됐긴 했다. 딥페이크 음란물 대상자가 아동일 경우, 아동·청소년 성 보호에 관한 법률(11조)에 따라 처벌받는다. 대상자가 성인일 경우 성폭력 범죄 처벌 등에 관한 특례법(14조)에 의해 처벌받을 수 있다. 다만 딥페이크로 인한 성범죄가 기존보다 다양해지면서 세부적인 법적 기준 필요성이 제기되고 있다.

김봉식 서울경찰청장은 "학생들에게 성범죄 전력 심각성을 가르치겠다"며 "범죄가 사회활동에 지장을 초래할 수 있다는 점을 알리는 교육을 강화할 것"이라고 강조했다.