옷 벗기는 딥페이크 앱에 한 달에 2400만명 몰려

"AI 이용한 옷벗기기 앱 광고 링크 수 2400% 증가"

인공지능(AI)을 이용해 여성의 가짜 누드를 만드는 딥페이크(deepfake) 앱과 웹사이트 이용이 급증하고 있는 것으로 나타났다.

10일(현지시간) 블룸버그통신 등 외신에 따르면 소셜네트워크 분석 기업 그래피카(Graphika)는 지난 9월 한 달 동안 2400만명이 딥페이크 웹사이트를 방문했다고 분석했다.

배우 엠마 왓슨의 얼굴이 합성되어 나타나는 음란물 광고. (캡처=NBC) *재판매 및 DB 금지

누디파이(nudify)라고 불리는 이런 서비스는 올해 초부터 급증하기 시작했다. 그래피카는 "X(트위터)와 레딧 등 소셜미디어에서 옷벗기기 앱의 광고 링크 수가 2400% 이상 증가했다"고 전했다.

이런 앱들은 인공지능을 이용해 사람의 누드 이미지를 만든다. 상당수 앱은 여성의 이미지만을 변환할 수 있는 것으로 전해졌다.

'딥페이크' 포르노물을 만드는 웹과 앱서비스는 범죄에 악용될 우려가 있다. 특정인의 누드 이미지가 당사자의 동의 없이 만들어지고 소셜미디어에서 확산되는 것은 심각한 사회적 문제가 될 수 있다.

생성형 인공지능의 발전으로 이런 딥페이크 기술은 과거에 비해 훨씬 정교하게 진화하고 있다. 또 오픈 소스이기 때문에 개발자들 사이에서 광범위하게 개발되고 있다.

그래피카의 산티아고 라카토스 애널리스트는 이전의 딥페이크 서비스의 경우 화질이 선명하지 않았다고 설명하면서 "(최근 기술을 이용하면) 당신은 현실과 같은 것들을 창조할 수 있다"고 설명했다.

제공=뉴시스