"엄마, 나 감옥에 갇혔어"…'억양까지 복제' 딥보이스, 5만원이면 OK

생성AI 기술 악용한 보이스피싱 등장…5초 분량 목소리면 손쉽게 위조

수화기 너머에서 들려온 목소리의 주인은 분명 아들이었다. 별안간 감옥에 갇혀있다니 이게 무슨 일인가. 그것도 차로 사람을 치어 죽게 했다니. 믿을 수 없는 말투성이지만, 부모님은 갇혀있는 아들을 위해 약 2000만원 상당의 비트코인을 보냈다.

그로부터 몇 시간 후 걸려 온 전화 한 통. "어머니 잘 계시죠?" 감옥에 갇혀 있어야 할 아들의 전화였다. 부모님은 그제야 사기에 당했다는 사실을 깨달았다. 분명 낮에 전화를 건 사람은 아들이 맞았는데. 귀신이 곡할 노릇이다.

(사진=뉴스1)

영국 더 타임스에 따르면 캐나다 국적의 벤저민 파커(39.남)의 부모님은 올해 초 아들의 목소리를 위조한 보이스피싱에 당했다. 생성AI 기술을 악용해 가상의 파커를 만든 것이다. 그는 "전화기에 등록된 음성 사서함 메시지로도 충분히 만들 수 있을 것"이라고 경고했다.

가상 인간부터 신약까지 생성AI가 적용된 혁신적인 기술이 등장하고 있는 반면, 음지에선 신종 범죄가 고개를 들고 있다. 해외에선 특정인의 목소리를 위조해 보이스피싱에 이용하거나, 연예인의 사진을 AI에 학습시켜 음란물을 제작하는 사례가 빈번하게 나타나고 있다.

◇억양까지 복제하는 딥보이스…5만원이면 제작 가능

딥보이스를 악용한 보이스피싱은 생성AI가 만들어낸 대표적인 부작용이다. 특정인의 목소리를 생성AI에 학습시킨 후 원하는 문장을 읽게 하는 식이다.

이미 해외에선 딥보이스 보이스피싱 피해가 수차례 발생했다. 지난 2021년 아랍에미리트의 한 은행은 자주 거래하던 대기업 임원의 목소리를 위조한 피싱범의 사기에 당해 420억원을 송금하기도 했다. 중국에선 딥페이크로 특정인의 얼굴까지 도용하는 '영상통화' 피싱 사기까지 등장했다.

현재 딥보이스 기술은 목소리의 톤은 물론이고 억양까지도 복제하는 단계에 이르렀다. 노인의 경우 특히나 딥보이스 보이스피싱에 취약할 수밖에 없다는 게 전문가들의 진단이다.

정수환 숭실대 정보통신전자공학부 교수는 5일 딥보이스 기술과 관련해 "최근 들어 화자의 억양까지도 복제하는 기술이 등장하는 등 실제 말하는 것과 동일한 수준까지 올라왔다고 본다"며 "5초 분량의 목소리면 정교하진 않더라도 비슷한 음성을 만들 수 있다"고 설명했다.

딥보이스는 지금도 어렵지 않게 만들 수 있다. 프리랜서 구인 플랫폼에서 '딥보이스'를 검색하면 관련 업체가 수십 곳이 검색된다.

<뉴스1>은 검색된 업체 중 한 곳에 딥보이스 제작을 의뢰했다. 딥보이스 제작을 위해선 특정인의 목소리가 담긴 녹음 파일이 필요했다. 직접 조용한 공간에서 소설책, 기사를 읽는 식으로 30분 분량의 녹음 파일을 만들어 업체에 넘겼다.

약 2일 후 업체로부터 딥보이스 '소스 파일'과 함께 변환기를 다운받을 수 있는 인터넷 주소(URL)를 받았다. 변환기에 파일을 넣고 가수 박지윤의 '새벽항해'라는 노래를 부르게 했더니, 취재진의 목소리로 노래가 흘러나왔다. 실제 목소리와 분간하기 어려울 정도였다. 자유자재로 이용 가능한 딥보이스 소스를 제작하는 데 들인 비용은 5만원에 불과했다.

아직 국내엔 정식으로 딥보이스 보이스피싱 사례가 보고된 적은 없다. 하지만 딥보이스에 대한 접근 문턱이 낮아진 만큼, 경찰과 금융당국은 언제든 나타날 수 있다고 보고 촉각을 곤두세우고 있다. 경찰청은 지난해 10월 유튜브 채널에 경고 영상을 올리기도 했다.

◇연예인 얼굴 합성 음란물도 기승…"개인은 피해 입증 쉽지 않아"

딥페이크 기술을 악용한 음란물도 주된 부작용 중 하나다. 딥페이크란 인공지능에 특정 이미지를 학습시켜, 유사한 복제 이미지를 만들어 내는 기술을 말한다.

딥페이크 범죄의 타깃은 주로 연예인이다. 이들은 연예인의 얼굴에 나체를 합성해 마치 '진짜' 같은 음란물을 제작한다.

30대 남성 A씨는 2019년부터 3년간 딥페이크로 연예인 얼굴을 합성한 성 착취물을 제작한 혐의로 지난 달 8일 재판에 넘겨졌다. 그가 제작한 이미지만 2000여장이며, 해외 사이트를 통해 약 5800회 유포한 것으로 전해졌다.

최근에는 일반인과 아동으로 타깃이 옮겨가고 있다. 실제 SNS '엑스(X·구 트위터)'에 딥페이크를 검색하면 '지인 능욕(지인 사진 합성)' 광고가 다수 올라와 있었다.

성폭력범죄의 처벌 등에 관한 법률에 따라 성적 수치심을 유발하는 허위영상물을 제작할 경우 5년 이하의 징역이나 5000만원 이하의 벌금에 처해진다. 대상이 아동이라면 더 무거운 형에 처해진다.

'AI 룩북' 같이 음란물이 아닌 '성인용' 영상에 SNS상의 일반인 사진이 이용되고 있다는 점도 골칫덩이다. 명백하게 특정인의 얼굴을 사용했다는 게 증명이 됐다면 명예훼손 등으로 처벌받을 수 있으나, 대부분 다수의 얼굴을 합성한 만큼 피해를 입증하기 어렵다.

장다혜 한국형사정책연구원 부연구위원은 "SNS 회사에 AI가 이용자들의 사진을 쉽게 가져가지 못하도록 장치를 만들도록 가이드라인을 부여하는 방안을 고민해야 한다"고 말했다.

제공=뉴스1