"테일러 스위프트도 당했다"…AI 음란 딥페이크에 美 청소년들 '울상'

인공지능(AI)으로 만든 음란 딥페이크가 미국 청소년들 사이에서 퍼지면서 피해자들이 속출하고 있다. 연예인이나 정치인 딥페이크가 아닌 여자 동급생들의 음란 이미지를 만들어 공유하는 일이 벌어져 사회 문제로 크게 부각되고 있다.

3일 월스트리트저널(WSJ)에 따르면 지난해 10월 뉴저지주 웨스트필드 고등학교에서 10학년 여학생들이 같은 반 남학생들에게 AI를 사용한 음란 딥페이크로 피해를 입은 것으로 나타났다.

이후 캘리포니아주 베벌리힐스의 한 중학교에서도 5명의 학생이 같은 반 친구의 누드를 AI로 생성한 혐의로 기소돼 퇴학을 당했고, 워싱턴주의 한 고등학교에서도 한 학생이 같은 일로 퇴학 당했다. 마이애미의 한 중학교에서는 급우들의 가짜 누드를 만들어 공유한 10대 남학생 2명이 체포돼 중범죄 혐의로 기소됐다. 다른 여러 학교에서도 이러한 이미지가 공유됐다는 신고가 접수돼 조사에 착수했다.

갈등 해결 전략 회사인 휴먼 팩터(Human Factor)가 지난 3~4월에 전국적으로 1천 명 이상의 학생, 교사, 학부모를 대상으로 설문조사를 실시한 결과, 학생들에게 가짜 누드 사진을 만든 사람과 사진에 등장하는 피해자 중 누가 더 큰 영향을 받는지 질문하자 73%가 피해자라고 답했다.

일리노이주 엘도라도에 사는 한 학생은 "가짜 사진으로 밝혀지더라도 피해자는 여전히 괴롭힘과 조롱을 당할 것"이라고 말했다.

WSJ는 "최근까지만 해도 소셜 미디어에 올린 자신의 사진이 AI를 이용해 다른 아이들에 의해 누드로 렌더링될 수 있다는 사실을 아는 학생은 거의 없었다"며 "수십 개의 '얼굴 바꾸기'와 '옷 벗기기' 도구는 이제 온라인에서 거의 또는 무료로 이용할 수 있다는 점에서 청소년들의 스트레스를 가중시키고 있다"고 지적했다.

후먼 팩터의 설문조사에 참여한 학생 중 3분의 2는 사진이 진짜처럼 보이면 이를 진짜라고 생각할 가능성이 높다고 답했다. 또 3분의 1만 상대방에게 진짜인지 물어본다고 응답했다. 참여한 학생의 약 60%는 또래 친구들이 가짜 누드 이미지를 생성하기 위해 AI를 사용할 것이라고 생각했다.

휴먼 팩터 연구진은 "사진이 비공개 그룹 채팅이나 스냅챗과 같은 사라지는 메시지 플랫폼에서 공유된다"며 "이 때문에 이를 당국에 효과적으로 신고할 수 있는 사람은 동료 학생들 뿐"이라고 말했다.

이에 미국 연방수사국은 지난 3월 청소년을 포함한 모든 사람이 AI를 사용해 아동 성학대 자료를 제작하는 것은 불법이라는 공개 권고문을 발표했다.

휴먼 팩터 연구진은 "학교에서 학생 행동 강령을 업데이트해 가짜 누드 이미지를 생성하고 공유할 경우 어떤 결과가 초래되는지 명시해야 한다"며 "학생들이 이러한 이미지를 발견하면 신고할 수 있도록 장려하고 활성화해야 한다"고 제안했다.

앞서 지난 1월에는 미국에서 세계적인 팝스타 테일러 스위프트의 얼굴이 합성된 음란물 이미지가 사회관계망서비스(SNS) 등을 통해 빠르게 유포돼 논란이 됐다. X(엑스, 옛 트위터) 측은 해당 이미지를 게재한 SNS 계정들을 정지시키고, 스위프트 검색 차단 등의 조치를 취했지만 이미 해당 이미지들은 수천만 건의 조회수를 기록하며 확산된 바 있다.

딥페이크 성범죄가 전 세계적으로 기승을 부리면서 각국도 대응에 나선 분위기다. 최근 미 의회 상원에는 피해자가 딥페이크 음란물의 제작·유포·소지자에게 15만 달러(약 2억 원)의 민사상 손해배상을 청구할 수 있는 내용의 여성폭력방지법의 개정안, 일명 '저항(Defiance)법'이 발의됐다.

유럽연합(EU)은 세계 최초로 포괄적 성격의 AI 규제법을 지난달 21일 최종 승인했다. 해당 법은 AI 활용 위험도를 크게 네 단계로 나눠 차등 규제한다. 딥페이크로 만든 영상·이미지·소리에 대해 AI로 조작한 콘텐츠라고 표시해야 한다. 또 인간과 지능이 비슷한 '범용 AI' 개발 기업은 학습 과정에 사용한 콘텐츠를 밝혀 투명성을 강화하고 저작권법도 준수해야 한다.