페이스북, 딥페이크에 사용된 AI 찾아낸다

페이스북이 딥페이크 이미지에 사용된 인공지능(AI) 기술을 찾아내는 방법을 개발했다.

CNBC 등 외신은 페이스북과 미시간주립대학의 AI 연구원이 딥페이크 출처를 추적할 수 있는 소프트웨어(SW)를 공개했다고 17일(현지시간) 보도했다.

페이스북에 따르면 딥페이크 추적 SW는 리버스 엔지니어링 기술을 활용한다. 사전 학습된 AI를 이용해 이미지나 영상의 변형 과정을 역추적해 어떤 딥페이크 기술을 사용했는지 추적하는 방식이다.

페이스북이 딥페이크 이미지에 쓰인 AI를 찾아내는 기술을 개발했다고 밝혔다(이미지=페이스북)

페이스북의 탈 하스너 연구과학자는 “이 SW는 디지털 이미지에 저장된 정보를 통해 촬영한 카메라를 특정할 수 있다는 사실을 발견한 것에서 시작했다”며 “딥페이크 이미지를 생성한 AI모델도 고유한 패턴을 지문처럼 가지고 있어 이를 특정할 수 있다”고 설명했다.

딥페이크는 AI를 이용해 사람 얼굴 등의 가상의 이미지를 만들어내는 기술이다. 유명인의 얼굴을 합성한 가짜뉴스, 불법영상 제작 등에 악용되고 있어 이를 막기 위한 대안이 요구되고 있다.

페이스북 연구자는 “우리는 딥페이크 탐지에 대한 이해와 경계를 넓혀 실제 사용에 더 적합한 모델 구문 분석개념을 도입했다”며 “연구자와 실무자가 딥페이크 허위정보 사건을 더 잘 조사하고, 연구를 위한 새로운 방향을 제시할 수 있는 도구가 될 것”이라고 설명했다.