"엄마 살려줘"…납치된 줄 안 딸, 알고보니 AI

보이스피싱 범죄에 인공지능(AI) 기술이 악용된 사례가 나타났다. 소셜미디어에 올린 영상 속 자녀가 말한 단 3초의 목소리를 이용해 AI가 자녀의 목소리를 흉내낸 것이다.

12일(현지시간) 미국 뉴욕포스트에 따르면 애리조나주에 사는 여성 제니퍼 데스테파노는 '딸을 납치했다'는 의문의 전화를 받았다. 납치범은 딸의 몸값으로 100만달러(약 13억원)을 요구했다. 이어 온 익명의 전화에는 10대 딸 브리아나 데스테파노의 절규가 들렸다.

전화로 딸은 "엄마, 내가 모두 다 망쳤어"라고 겁에 질린 채 흐느꼈다. 엄마 제니퍼는 10대 딸이 친구들과 함께 스키여행을 갔다는 사실을 알고 있었지만, 갑작스러운 딸의 울부짖음에 혼란에 빠졌다.

이어 납치범은 엄마에게 "여기 당신의 딸이 있어. 네가 경찰이나 아는 지인 누구에게도 전화를 한다면 나는 딸의 장기에 마약을 가득 채울 것"이라고 협박했다.

제니퍼는 당시 상황에 대해 "납치범과 통화를 하고 있는데도 계속 수화기 너머로 딸이 '엄마 살려줘'라며 애원하는 목소리가 들렸다"고 말했다.

혼란에 빠진 틈타 납치범은 제니퍼에게 딸의 몸값으로 100만달러(약 13억원)를 요구했지만 협상 끝에 5만달러(약 7000만원)로 낮췄다.

당시 같이 있던 지인의 의심 덕분에 제니퍼는 911에 전화를 걸어 여행을 간 딸 브리아나와 통화를 했고 납치범의 전화가 보이스피싱임을 확인했다.

전문가들은 이같이 AI를 활용한 진보된 보이스피싱 범죄가 증가할 것이라며 주의를 당부했다.

AI·컴퓨터 과학 전문가로 알려진 애리조나주립대학 수바리오 캄밤파티 교수는 "예전에는 AI로 사람의 목소리를 복제하기 위해선 충분한 길이의 샘플이 필요했다"며 "이제는 단 3초짜리 샘플로도 목소리를 복제해 변조할 수 있다"고 말했다.

이어 교수는 "영상 샘플의 양이 많아질수록 사람의 감정을 모방할 수 있다"고 경고했다.

한편 이와 유사한 방식의 실제 보이스피싱 피해 사례가 발생하기도 했다.

관련기사