MS, 딥페이크 영상 찾아내는 도구 개발

"美 대선 때 악용될 딥페이크 탐지에 유용”

마이크로소프트가 인공지능(AI)으로 영상을 합성해 가짜 동영상을 만드는 ‘딥페이크’를 구별할 수 있는 도구를 개발했다.

주요외신에 따르면 마이크로소프트는 1일(현지시간) 딥페이크를 방지하기 위한 새로운 도구인 ‘마이크소프트 비디오 어센터케이터’(Microsoft Video Authenticator)를 발표했다.

딥페이크란 누군가가 말하지 않았거나 실제로 있지 않은 장소에 있는 것처럼 보이게 하기 위해 감지하기 어려운 방식으로 변경된 가짜 컴퓨터 조작 이미지 또는 동영상을 뜻한다. 저명한 사람들의 명예를 훼손하는 데 이용돼 수차례 논란이 일기도 했다. 특히 미국에서는 올 11월 대통령 선거를 앞두고 딥페이크를 이용한 정치 조작에 대한 우려가 높아지는 상황이다.

Microsoft Video Authenticator(출처=마이크로소프트 블로그)

이에 마이크로소프트는 딥페이크 대항 툴인 ‘마이크로소프트 비디오 어센터케이터’를 선보였다. 이 프로그램은 화상이나 영상을 해석함으로써 인간의 눈으로는 알 수 없는 수준의 퇴색과 그레이스케일 등을 검출한다. 딥페이크 기술로 편집이 이뤄졌는지 여부를 판정하고 ‘신뢰 점수’를 계산해 딥페이크가 사용됐는지 알 수 있도록 표시해준다.

마이크소프트 비디오 어센터케이터를 이용해 실제로 영상을 판정하는 데모도 공개됐다. 데모 영상에는 여인의 열굴 위에 테두리가 그려지고 신뢰 점수가 표시된다. 이 때 테두리가 녹색의 경우는 딥페이크가 사용되지 않은 확률이 높다는 뜻이고, 반대로 빨간색의 경우는 딥페이크가 사용될 확률이 높다는 것을 의미한다.

마이크로소프트의 톰 버트(Tom Burt) 고객 보안 및 신뢰 부문 부사장은 “딥페이크가 계속해서 학습할 수 있는 AI에 의해 생성된다는 사실은 기존 탐지 기술을 능가할 수밖에 없다”면서 “그러나 다가오는 미국 선거 때 우리의 진보된 탐지 기술은 이용자가 딥페이크를 식별하는 데 유용한 도구가 될 수 있다”고 설명했다.

이 프로그램은 마이크로소프트의 클라우드 플랫폼 ‘마이크로소프트 애저’ 상에서 작동한다. 마이크로소프트는 이 새로운 도구가 잘못된 정보와 싸우고, 투표와 선거 캠페인을 보호하기 위한 프로젝트의 일환이라고 밝혔다.