"박명수도 화들짝"…생성형 AI 콘텐츠에 놀란 연예인, 유튜브서 삭제 요청 가능해진다

유튜브, 딥페이크 등 생성형 AI 콘텐츠 삭제 요청 시 검토…개인정보침해 등 고려

"저도 들어봤어요. 어쩌면 그렇게 똑같나요. 근데 전 그 노래(밤양갱)을 부른 적이 없어요. 그렇게 똑같을 줄 몰랐는데 (앞으로) 우리 연예인들은 어떻게 해야 합니까."

지난 3월. 방송인 박명수는 가수 비비의 곡 '밤양갱'을 자신의 목소리로 부른 노래가 유튜브 등을 통해 흘러나오자 깜짝 놀랐다. 자신의 목소리와 너무 유사했기 때문이다. 

앞으로는 유튜브를 통해 이처럼 목소리를 모방한 콘텐츠를 원하는 경우 삭제할 수 있을 것으로 보인다. 유튜브가 딥페이크 같은 얼굴이나 목소리를 모방한 생성형 AI 콘텐츠 또는 기타 합성 콘텐츠의 삭제를 요청할 수 있도록 했기 때문이다.

유튜브 상에 게재된 'AI 박명수'가 부른 비비의 '밤양갱' (사진=유튜브 캡처)

2일 테크크런치 등 외신에 따르면 유튜브는 생성형 AI 콘텐츠의 영향을 직접 받는 당사자가 개인정보침해를 사유로 요청할 경우 콘텐츠를 삭제할 수 있도록 했다. 다만 미성년자이거나 컴퓨터에 접근할 수 없을 때, 사망했을 때 등 몇 가지 경우를 제외하곤 당사자가 직접 삭제를 요청해야 한다.

유튜브는 콘텐츠 삭제 요청을 받게 되면 다양한 요소를 고려해 판단을 내린다. 해당 콘텐츠가 특정인을 고유하게 식별할 수 있는지, 패러디나 풍자 또는 대중의 이익을 위한 것으로 간주할 수 있는지 판단한다. 또 해당 콘텐츠에 유명인이 등장하거나 범죄 행위, 폭력, 정치인 지지 등 민감한 내용이 담겼는지도 고려해 삭제 여부를 결정한다.

특히 올해 미국 대통령 선거를 앞두고 생성형 AI 콘텐츠로 표심을 흔들 우려가 높은 만큼 이를 철저히 관리한다는 방침이다.

유튜브는 만약 콘텐츠를 삭제할 경우 콘텐츠를 올린 이에게 48시간 동안 조치를 취할 수 있는 시간을 줄 예정이다. 콘텐츠를 올린 이가 해당 시간 내에 콘텐츠를 삭제하면 신고는 종결된다. 

그렇지 않으면 유튜브는 신고된 콘텐츠에 등장하는 인물을 흐림 처리 등으로 식별 불가능하게 조치하도록 유도한다. 그러나 언제든지 동영상이 공개 상태로 다시 설정될 수 있다고 보고 단순히 콘텐츠를 비공개로 전환하는 것은 허용하지 않는다.

앞서 페이스북, 인스타그램 등을 운영하는 페이스북도 지난 3월 딥페이크를 방지하기 위해 대책을 내놓은 바 있다. 그동안 자체 도구인 메타AI에서 만든 AI 이미지에 라벨을 붙여왔으나, 이를 모든 게시물로 확대했다. 

메타는 "(AI 기술 발달로) 실제 사람의 모습과 합성한 모습의 차이를 가리기 어려워졌다"며 "이용자들은 진위와 경계를 알고 싶어 한다"고 말했다. 그러면서 "이용자들이 접한 콘텐츠가 AI를 사용해 언제 만들어졌는지 알 수 있도록 도우려 한다"고 덧붙였다.