"피해자 절반이 韓 여성"…샌즈랩, 딥페이크 범죄 막기 위해 앞장섰다

국민 모두가 사용할 수 있는 딥페이크 탐지 서비스 출시…불안 불식 위해 무료로 개

최근 딥페이크를 활용한 범죄가 급증하며 사회적으로 큰 문제가 되고 있는 가운데 샌즈랩이 국민들의 불안감을 잠재우기 위해 이를 탐지하는 서비스를 무료로 제공한다. 

샌즈랩은 생성형 인공지능(AI) 역기능 중 하나인 딥페이크를 탐지하는 서비스 '페이크체크'를 출시했다고 4일 밝혔다.

페이크체크는 사용자가 직접 웹사이트에 접속해 딥페이크가 의심되는 이미지를 업로드하면 수 초 내로 위조 진위 여부를 분석해 판별 결과를 알려준다. 남녀노소 누구나 쉽게 서비스를 이용할 수 있도록 회원가입이나 인증 등 번거로운 절차들을 없애고 순수한 기능에 집중했다.

샌즈랩이 국민 모두가 사용할 수 있는 딥페이크 탐지 서비스 출시했다. (사진=샌즈랩)

이 서비스는 무료로 제공되며 누구나 이용 가능하다. 샌즈랩은 현재 국민들이 직면한 사회적 이슈에 조금이나마 도움을 보태기 위해 해당 서비스를 자체 구축하고 유지하는데 드는 클라우드 서비스 등의 모든 비용을 사회 공헌 차원에서 직접 부담하기로 했다. 당장의 서비스 수익보다 딥페이크로 인한 2·3차 피해 확산 방지가 우선이라는 판단에서다.

실제 우리나라는 딥페이크 피해에 취약한 상태다. 미국의 사이버보안 업체 시큐리티 히어로가 최근 발표한 '2023 딥페이크 현황 보고서'에 따르면, 지난해 7~8월 유튜브와 딥페이크 성착취물 사이트 게시물 9만5천820건을 분석한 결과 피해자의 53%가 한국인이었다. 대부분 가수와 배우 등 연예인이었고, 가장 큰 피해를 본 것은 한국인 가수로 나타났다. 이들은 딥페이크 성착취물 1천595건에 등장했고 총 조회수는 561만 회였다.

이에 샌즈랩은 디지털 범죄 근절과 국민 불안을 불식시키기 위한 사회적 기업 차원에서의 책임감에 따른 노력의 일환으로 서비스를 민간에 개방했다. 이곳은 당초 생성형 AI 역기능 탐지 및 대응 기술에 대한 연구개발을 통해 페이크체크와 같은 기능의 국민 체감형 플랫폼을 구축하는 국가 과제를 수행하고 있었다. 그러나 착수 이후 반년도 채 지나지 않은 시점에서 AI 역기능이 사회적 문제로 심화되자 이처럼 결정했다. 

페이크체크는 다양한 AI 모델을 활용해 사람의 얼굴 이미지의 위·변조 여부 판별이 가능하도록 개발됐다. 범죄 예방 목적의 서비스다 보니 사람 얼굴 외 동물이나 사물의 딥페이크 이미지는 판별하지 않는다. 

샌즈랩 관계자는 "다만 완전히 개발이 완료된 서비스가 아닌 일종의 오픈 베타 테스트 버전 형태로 출시됐다"며 "이 때문에 지속적인 의견 수렴과 업데이트를 통해 탐지 대상 확대나 탐지율 향상은 물론 영상의 위·변조 여부 판별까지 추후 지원할 것"이라고 설명했다.

김기홍 샌즈랩 대표는 "페이크체크 서비스는 딥페이크 침해 사고에 대한 대응책이 필요한 사회적 기대에 부응하기 위해 임직원들이 한마음 한뜻으로 만들어낸 실질적인 대안 확보 사례"라며 "이번 서비스 출시로 수행 중인 과기정통부 정보통신기획평가원의 정보보호핵심원천기술개발사업인 생성형 AI 역기능 억제를 위한 국민 체감형 플랫폼 구축 토대를 견고히 다져 미래 사이버 보안을 위한 AI 기술 개발로 사회에 이바지할 수 있도록 앞장서겠다"고 밝혔다.