SNS 셀카 사진, ‘변태 AI’가 훔쳐본다

AI로 가짜 성인물 제작에 악용

소셜네트워크서비스, 커뮤니티 등에 본인이나 가족사진을 올릴 때 더욱 각별한 주의가 필요할 것으로 보인다.

인공지능(AI) 기술 발달로, 전문가가 아니어도 실제와 구분이 어려운 가짜 사진이나 영상을 만들어 인터넷에 유포시킬 위험이 높아졌기 때문이다.

12일 IT 전문 외신인 마더보드는 AI 도움으로 가짜 성인물 제작이 가능해 우리 모두를 난처하게 할 수 있다고 경고했다.

외신에 따르면 영화 ‘원더우먼’에 출연한 여 주인공 갤 가돗이 낯 뜨거운 성인물에 출연한 것처럼 보이는 영상이 공개돼 사람들을 깜짝 놀라게 한 일이 최근 벌어졌다.

누군가 얼굴 복제 기계학습 알고리즘을 사용, 갤 가돗의 얼굴을 성인물 영상에 덧입혀 실제 영상처럼 보이게 만들어 버린 것이다. 가짜 영상 속 여주인공은 꽤 자연스러운 동작과 표정을 보인다.

이 동영상은 ‘딥페이크’(deepfakes)라는 사용자가 해외 게시판 레딧에 올렸다. 그는 구글의 텐서플로와 같은 오픈소스 기계학습 도구를 사용해 가짜 성인물을 만들었는데, 언뜻 봤을 때 가짜라고 분별할 수 없을 만큼 정교하다.

마더보드에 따르면 딥페이크는 지금까지 가돗 외에도 스칼렛 요한슨, 테일러 스위프트, 오브리 플라자 등 유명 인사의 얼굴을 이용해 가짜 성인물을 제작, 공개했다.

마더보드 취재에 딥페이크는 신원 밝히기를 거부했지만, 어떻게 가짜 성인물을 만들었는지에 대해 부분적으로 답했다.

딥페이크 설명에 따르면 그는 구글 이미지와 유튜브 등으로부터 모은 유명 인사의 얼굴을 컴파일 하고, AI에 성인물 동영상이나 유명 인사 얼굴을 학습시켰다. 이 같은 작업은 상용 아이템으로도 작업이 가능한 것으로, AI 전문가들은 이미 어려운 기술이 아니라는 설명이다.

가짜 성인물을 만든 딥페이크 역시 관련 분야의 전문가나 연구자가 아니라 단지 ‘AI에 관심이 있는 프로그래머’라고 자신을 소개했다.

최근 SNS에는 대량의 AI 셀카 사진이 게시되고 있다. 이런 사진을 이용하면 손쉽게 가짜 성인물을 제작할 수 있다는 뜻이다. 기술의 진보에 따라 전문가가 아니더라도 AI를 이용할 수 있는 흐름은 막을 수 없지만, 이에 따른 윤리적인 문제가 대두되는 현실이다.

외신은 “몇 달 지나지 않아 가짜와 진짜 구별이 어려운 가짜 동영상과 사진을 만들 수 있게 된다는 것을 이해할 필요가 있다”며 “이런 문제에 대한 공론화가 필요하다”고 지적했다.