"내 돈 못 가져가"…보이스피싱 사기꾼 속이는 英 할머니 정체는?

O2, 할머니 목소리 모방한 AI 모델 '데이지' 공개…韓서도 피해 방지 위한 AI 활용 사례 늘어

최근 노인을 상대로 금품을 갈취하려는 보이스피싱이 점차 늘어나고 있는 가운데 국내외서 이를 방지하기 위해 인공지능(AI) 기술을 도입하는 사례가 점차 늘어나고 있다.

18일 테크크런치에 따르면 영국 이동 통신사 O2는 지난 14일 전화 사기를 차단하기 위한 AI 모델 '데이지(Daisy)'를 공개했다. 

'데이지'는 할머니의 목소리를 모방한 AI 모델로, 사기꾼들이 자주 사용하는 번호에서 전화가 걸려오면 사람 대신 AI가 전화를 받도록 고안됐다. 사기꾼들이 은행 정보를 알아내려고 시도할 때 여러 AI 모델을 연동시켜 뜨개질, 가족 등 일상적인 대화를 나누도록 함으로써 실제 사람과 구별하기 어렵도록 한 것이 특징이다. 이를 통해 사기꾼들이 시간을 낭비하게 유도해 다른 사람들의 피해를 줄인다는 복안이다.

영국 통신사 O2가 보이스피싱 방지를 위해 개발한 AI 모델 '데이지' (영상=O2 공식 뉴스룸 캡처)

데이지는 몇 주간 시범 운영되며 효과를 입증한 것으로 알려졌다. O2는 실험용 전화번호를 사기꾼들이 자주 사용하는 리스트에 일부러 추가한 후 가짜 계좌나 개인정보를 제공했다. 일부 대화는 최대 40분까지 진행됐다.

이번 일은 유명 유튜버이자 소프트웨어 엔지니어인 짐 브라우닝의 아이디어로 시작됐다. 그러나 일반 사용자들이 아직까진 직접 사용할 수 없다. 

O2는 "전화로 개인정보나 비밀번호를 요청할 경우 의심을 먼저 해야 한다"며 "즉시 전화를 끊은 뒤 경찰 상담 전화나 가족, 친구에게 이를 알려야 한다"고 강조했다.

국내에서도 최근 AI를 활용해 보이스피싱 예방에 나서는 곳들이 점차 늘어나고 있다. 스팸 차단 애플리케이션 '후후'를 서비스하는 브이피는 지능화되는 보이스피싱을 막기 위해 최근 KT AI 기술을 활용한 '보이스피싱 탐지 AI 에이전트' 공동개발을 완료했다. 후후 앱을 설치한 이용자가 전화 통화를 할 때 AI 모델이 해당 통화 내용을 분석, 보이스피싱 의심 여부를 실시간으로 탐지해서 알려주는 방식이다. 이 서비스는 현재 베타 테스트 진행 중으로, 연내 후후 앱에서 상용화해 무료로 이용할 수 있을 전망이다.

또 브이피는 KT가 과학기술정보통신부의 ICT 규제샌드박스 실증특례 승인을 받은 '실시간 통화 보이스피싱 탐지 서비스'를 바탕으로, 실제 보이스피싱 범인의 목소리까지 학습시켜 서비스에 적용하는 등 AI 기술을 활용해 후후 서비스를 지속적으로 고도화해 나갈 계획이다.

브이피의 보이스피싱 예방 기술인 '위험평가모델' (사진=브이피)

업계에선 AI 기술 도입으로 최근 들어 급증하고 있는 보이스피싱 피해가 점차 줄어들 수 있을 지 예의주시하고 있다. FBI에 따르면 60세 이상의 사람들은 지난해 전화 사기를 통해 34억 달러(약 4조7천368억원)의 피해를 당한 것으로 파악됐다. 이는 전년(31억 달러)에서 늘어난 수치다.

국내에서도 노인을 대상으로 한 금융 피해는 증가하는 추세다. 금융감독원의 '2023 보이스피싱 피해 현황 분석'에 따르면 지난해 보이스피싱 피해액 중 60대 이상이 차지하는 비중은 36.4%로 다른 연령대보다 월등히 높았다.

하지만 AI 기술로 오히려 피해가 더 커질 것이란 전망도 있다. AI를 통해 특정 인물의 목소리와 특징을 학습한 후 가짜 음성을 생성하는 '딥보이스' 기술을 활용해 사기 행각을 벌이는 일도 많아지고 있어서다. 현재 보이스피싱 조직은 자녀의 목소리를 복제한 뒤 부모에게 전화해 마치 납치된 것처럼 흐느끼며 살려달라고 한다거나, 급한 일이 있다면서 돈을 빌려달라는 목소리를 들려주는 방식으로 범행한다.

테크크런치는 "생성형 AI와 이를 이용한 음성 사칭이 발전하고 있다"며 "이로 인한 피해는 더 늘어날 것으로 보인다"고 전망했다.