유튜브, AI가 만든 딥페이크 목소리·얼굴 잡는다

관련 기술 개발해 곧 선보일 예정

우리나라뿐만 아니라 전 세계적으로 딥페이크 기술을 활용한 악성 콘텐츠 제작과 유포가 사회적 문제로 떠오르고 있는 가운데, 유튜브가 크리에이터와 파트너들을 보호하기 위해 이를 막는 기술을 선보인다.

최근 유튜브는 자사 블로그를 통해 AI로 합성된 목소리나 유명인의 얼굴 등 딥페이크 기술이 악용되는 사례를 막는 도구를 개발했다고 알렸다.

먼저 유튜브는 합성된 노래를 식별할 수 있는 기술을 개발했다. 이를 통해 유튜브 파트너들은 유튜브 상에서 자신의 노래 목소리를 모방하는 AI 생성 콘텐츠를 자동으로 감지하고 관리할 수 있다. 회사는 현재 파트너들과 이 기술을 개선 중이며, 내년 초에는 파일럿 프로그램을 선보일 수 있을 전망이다.

유튜브 사진(유튜브 화면 캡쳐)

또 크리에이터나 배우, 음악가, 운동선수까지 다양한 분양의 유명인들이 유튜브에서 자신의 얼굴을 딥페이크 한 AI 생성 콘텐츠를 감지하고 관리할 수 있는 기술을 개발 중이다. 회사는 "이 기술은 최근 회사가 선보인 개인정보보호 업데이트와 함께 AI가 유튜브에서 사람을 묘사하는 데 사용되는 방식을 관리하는 강력한 도구가 될 것으로 보인다"고 평가했다. 

아울러 유튜브는 허용되지 않은 접근을 탐지하고 방지하는 시스템에 투자를 지속하면서, 무단으로 스크래핑 등 콘텐츠를 활용하는 이들의 접근을 차단하는 조치를 이어나가겠다고도 했다.

유튜브는 "크리에이터에게 제3자가 유튜브 플랫폼에서 자신의 콘텐츠를 사용하는 방법에 대한 선택권을 제공하는 새로운 방법을 개발하고 있다"며 "연말에 더 많은 내용을 공유할 예정"이라고 말했다.