"딥페이크 포르노는 혁신 아닌 성적 학대다. 이 문제는 최대한 빨리 해결해야 한다."
생성AI 기술을 이용한 성적 이미지인 ‘딥페이크 포르노’에 대한 사회적 문제가 커지고 있다. 이에 샌프란시스코 시 변호국은 딥페이크 포르노를 생성할 수 있는 인기 웹사이트 16곳에 대해 폐쇄 조치와 손해배상을 요구하는 소송을 제기했다.
지난 15일(현지시간) 시티 어터니 오브 샌프란시스코(CITY ATTORNEY OF SAN FRANCISCO)와 블룸버그, 기가진 등에 따르면 샌프란시스코 시 법률 대리인 데이비드 치우 변호사는 합의하지 않은 AI로 포르노를 제작하고 배포하는 세계 최대 규모 웹사이트들을 상대로 처음 소송을 제기했다고 발표했다. 이 소송은 샌프란시스코 고등 법원에 제기됐다.
![](https://image.zdnet.co.kr/2024/08/18/7d65310bb531dad54ae5326954335a22.jpg)
샌프란시스코 시 변호국은 올 상반기에만 총 2억회나 접속한 16곳의 웹사이트에서 이용자가 여성을 누드화할 수 있도록 하는 오픈소스 AI 이미지 생성 모델이 악용됐다고 지적했다. 또 AI가 생성한 딥페이크 포르노 피해자는 심각한 심리적, 경제적 피해를 입고, 인터넷상에 이미지가 확산됨으로써 명예적 피해를 받을 수있다고 우려했다.
이번에 소송을 당한 웹사이트 중 한 곳은 “그녀를 데이트에 데려가는 데 시간을 낭비한다고 상상해 보세요. 그냥 웹사이트에서 알몸(누드)을 구하세요”라고 광고한 것으로 알려졌다.
이 사이트들은 이미지를 생성하기 위해 사용자한테 구독료를 받았는데, 일부 사이트에서는 무료 체험 버전을 제공한 것으로 확인됐다. 그 결과 연간 수백만 개의 딥페이크 포르노가 생성됐고, 대부분은 여성을 대상으로 한 것으로 나타났다.
데이비드 치우 변호사는 “딥페이크 포르노는 혁신이 아니라 성적 학대라는 것을 분명히 해야 한다”면서 “이 문제는 우리가 가능한 빨리 해결할 필요가 있는 중요한 문제”라고 강조했다.
샌프란시스코 시 변호국은 이들 사이트 운영자 약 50명에게 “피해자 동의 없이 딥페이크 포르노를 생성함으로써 주법 및 연방법을 위반하고 있다”면서 웹사이트 폐쇄와 손해배상 지불을 청구했다.
카룬 틸락 부 변호사는 “현시점에서는 이들 웹사이트가 어떤 이미지 생성AI를 사용하고 있는지 명확히 판단할 수 없다”면서도 “그러나 영국의 AI 스타트업인 스터빌러티AI(Stability AI)의 오픈소스 이미지 생성AI인 스테이블 디퓨전의 초기 버전은 이런 딥페이크 포르노 악용에 취약하다”고 설명했다.
관련기사
- [지디 코믹스] 치킨게임 된 치킨배달2024.06.28
- [지디 코믹스] 쿠팡 1400억 과징금 형평성 논란2024.06.16
- [지디 코믹스] 전국민 오리무중 게임2024.06.09
- [지디 코믹스] 네이버 '라인' 일병 구하기2024.05.01
치우 변호사는 “우리는 모두 AI를 악용해 어린이를 포함한 실존 인물을 착취하고 학대하는 악질적인 인물을 단속하기 위해 각자의 역할을 다해야 할 의무가 있다”고 밝혔다.
소송의 대상이 된 웹사이트 운영자들은 이번 소송에 대해 별다른 언급이 없었던 것으로 전해졌다.