금융권 새로운 위협 '생성형 AI·딥페이크'

딜로이트그룹 "관련 사기 피해액 美 2027년 400억 달러" 전망

인공지능(AI) 기술을 활용한 금융사기 피해가 금융권의 새로운 위협 요인이 될 것이란 전망이 제시됐다.

22일 한국딜로이트그룹은 '딜로이트 글로벌 금융서비스 산업 트렌드'를 통해 생성형AI와 딥페이크로 인한 금융사기 피해가 점차 커질 것이라고 관측했다.

보고서에 따르면 미국 내 생성형AI 기반 금융사기 피해액은 지난해 123억 달러(약 16조3천750억원)이었지만, 이는 지속적으로 증가해 2027년 400억 달러(약 53조2천520억원)로 연평균 32% 확대된다.

(사진=이미지투데이)

특히 생성형AI를 통한 사기행위 유형과 범위는 과거 범죄 유형을 뛰어넘을 가능성이 높다. 딥페이크 영상과 음성, 문서를 만들기 더욱 쉬워진데다가 사기행위에 이용할 수 있는 소프트웨어를 사고파는 다크 웹(dark web) 시장도 활개를 치고 있는 상황이다.

생성형AI를 이용 시 이메일 피싱을 통한 금융사기도 손쉬워 진다고 보고서는 지적했다. 미국 연방수사국에 따르면 2022년 기준 이메일 피싱으로 인한 피해액은 약 27억 달러(약 3조5천900억원)이었지만 생성형AI를 통한 이메일 피싱 피해 규모는 2027년 115억 달러(약 15조3천억원)으로 325%가량 폭증할 것으로 내다봤다.

외부 기술 기업과의 협력 등을 통해 AI 기반 사기행위를 막아야 한다는 주장에 힘이 실린다. 미국 재무부는 "기존 리스크 관리 체제는 첨단 AI기술을 관리하기에 적절하지 않다"고 지적한 바 있다.

일부 은행들은 AI를 활용해 사기행위를 감지하고 담당 팀에 조사 결과를 전송하는 프로세스를 자동화하고 있다. JP모건(JPMorgan) 등 일부 은행들은 이미 대규모 언어모델(LLM)을 도입해 이메일 탈취 행위 등에 대응하고 있다. 마스터카드는 의사결정지능(Decision Intelligence) 툴을 개발해 수 조개의 데이터 포인트를 스캔, 거래행위의 진위를 파악하는 방식으로 사기행위를 방지하고 있다.

딜로이트 그룹 측은 "은행들은 생성형AI 기반 사기에 대한 대응책 마련에 초점을 맞춰야 경쟁력을 유지할 수 있다"며 "새로운 금융사기의 시대에 발맞춰 조직 전체의 전략, 거버넌스, 자원 활용 방식 등도 재편할 필요가 있다"고 조언했다.