마이크로소프트, AI 사기 확산 '전면 대응'…"40억 달러 피해 막아"

마이크로소프트가 인공지능(AI)을 악용한 사기 수법 확산에 대응하기 위해 글로벌 보안 체계를 강화했다. 전 제품·서비스에 보안 기능을 업그레이드해 기업과 소비자 보호에 나섰다.

마이크로소프트는 지난해 4월부터 올해 4월까지 약 40억 달러(약 59천960억원) 규모 사이버 사기 시도를 막았다고 22일 밝혔다. 해당 기간 4만9천건의 허위 파트너 등록 요청을 거부하고, 시간당 약 160만건의 자동화 봇 계정 생성 시도까지 차단한 것으로 전해졌다.

이런 조치는 AI를 악용한 사이버 사기가 더욱 정교해지고 있는 데 따른 것이다. 현재 공격자는 AI로 기업 정보를 자동 수집하고, 허위 리뷰나 가짜 쇼핑몰, 딥페이크 영상·음성을 활용해 현실과 유사한 사기 시나리오를 만들어내는 추세다.

마이크로소프트가 인공지능(AI)을 악용한 사기 수법 확산에 대응하기 위해 글로벌 보안 체계를 강화했다. (사진=챗GPT)

마이크로소프트 사기 방지팀도 "디지털 시장이 클수록 사기 시도도 그만큼 많아지는 경향이 있다"고 밝혔다.

이커머스부터 취업시장까지 AI 공격에 '얼룩'

마이크로소프트는 AI 기반 사기 고도화에 따른 피해 확산을 경고했다.

최근 마이크로소프트가 발표한 '사이버 시그널' 리포트에 따르면 사이버 공격자는 생성형 AI 기술을 활용해 단시간 내 가짜 전자상거래 사이트를 구축하고 신뢰를 위장하는 콘텐츠를 삽입해 피해자를 유도하고 있는 것으로 전해졌다. 과거보다 제작 속도는 빨라지고 정교함은 높아졌다는 설명이다.

사이트 내 시스템은 허위 제품 설명과 후기, 이미지뿐 아니라 AI 봇까지 갖췄다. 챗봇을 통해 피해자 의심을 줄이고 환불을 미루기 위한 목적이다. 웹사이트 내 제품이 실제 브랜드처럼 보이도록 구성돼 피해자가 속기 쉬운 것으로 알려졌다.

보고서는 생성형 AI가 채용 사기에 사용된다고 설명했다. 공격자가 가짜 기업 계정으로 채용 공고를 게시하는 식이다. 여기에 자동화된 이메일 캠페인과 면접 시뮬레이션까지 연동해 구직자를 속인다. 피해자는 인사담당자를 사칭한 메시지에 넘어가 개인정보를 전달한다.

실제 북한 IT 인력이 AI로 위장 취업해 원격 근무 방식으로 기업 시스템에 침투한 바 있다. 민감한 기업 데이터를 탈취하거나 보안 체계를 약화하는 작전을 수행한 것으로 전해졌다.

기술 지원 사기도 확산 중이다. 공격자가 사용자 디바이스에 오류가 발생한 것처럼 속여 가짜 기술 지원을 제공하는 방식이다. 실제 사이버 범죄 그룹 스톰-1811은 마이크로소프트 퀵 어시스트와 팀즈를 악용해 IT 직원을 사칭하고 보이스 피싱 공격을 시도한 것으로 드러났다.

마이크로소프트는 "해당 공격 시나리오에 AI가 직접 사용되진 않았다"며 "공격자가 소셜 엔지니어링 기법을 고도화하고 있다는 점에서 위험성 높다"고 경고했다. 그러면서 "디바이스 접근 권한을 요구하거나 비공식 경로에서 연락이 올 경우 즉각 주의가 필요하다"고 덧붙였다.

AI 사기 대응 기술 고도화…"제품 전반 실시간 차단 강화"

마이크로소프트는 AI 기반 사기 대응 기술을 고도화했다. (사진=마이크로소프트)

마이크로소프트는 이같은 AI 기반 사기 대응 기술을 고도화해 사용자 보호 체계를 업그레이드했다. 머신러닝(ML) 탐지 모델과 사기 방지 기술을 제품·서비스 전반에 적용했다.

우선 마이크로소프트는 디펜더 포 클라우드와 엣지 브라우저에 위협 탐지 기능을 적용해 사기 웹사이트 차단과 악성 코드 탐지를 강화했다. 도메인 생성 초기 단계부터 위협을 차단하는 식이다.

이를 통해 엣지 브라우저는 전체 화면 팝업이나 가짜 경고 메시지를 자동 식별·차단할 수 있다. 사용자가 신고한 악성 사이트는 AI 기반 전문가 검토를 통해 빠르게 조치된다. 디펜더 스마트스크린은 웹사이트 평판, 행위 기반 정보 토대로 피싱과 악성 콘텐츠 유입을 사전에 막는다.

마이크로소프트는 퀵 어시스트의 보안 기능도 강화했다고 밝혔다. 사용자가 IT 지원 사기 시도를 인지할 수 있도록 경고 메시지를 표시하고, 의심스러운 원격 접근 요청은 차단된다. 이를 통해 하루 평균 4천건 넘는 연결 시도를 막을 수 있다.