美서도 딥페이크 범죄에 '시끌'…캘리포니아, AI 악용 막기 위한 새 법안 제정 임박

선거·미성년자 음란물 딥페이크 제작 시 처벌 가능…관련 법 승인 관련 찬반 분분

미국 캘리포니아 주가 인공지능(AI) 범죄에 칼을 빼 들었다. 미성년자 딥페이크 성범죄·선거 허위 정보 확산 등에 AI가 쓰이는 문제를 최대한 막기 위해서다.

2일 AP통신 등 외신에 따르면 미 캘리포니아 주 하원 의회는 AI 안전 대책 법안 투표를 완료해 오는 9월 말 주지사의 승인을 기다리고 있다.

SNS를 중심으로 퍼진 도널드 트럼프 전 미국 대통령 체포 사진. 딥페이크 등 AI기술을 활용한 프로그램을 통해 제작된 가짜사진으로 판명났다. 사진은 기사와 무관함. (사진=X 캡처)

하원의원들은 그간 딥페이크 법안 제정에 공을 기울였다. 이 법안에는 미성년자 딥페이크 성범죄에 대해 AI로 아동 성적 학대 이미지와 비디오 제작하는 행위 자체를 금지한다는 내용이 포함됐다. 현행 캘리포니아주 법은 AI가 만든 이미지·비디오가 사람을 묘사했단 걸 검사가 증명하지 못할 시 관련 미성년자 음란물 소유·배포자 추적이 어렵다.

선거와 관련된 딥페이크도 법 제정의 대상이다. 캘리포니아 주 의회는 이번 법 승인으로 메타 등 대규모 소셜 미디어 플랫폼에 선거일 기준 120일 전부터 60일 후까지 선거 관련 딥페이크 자료를 삭제하도록 요구할 수 있다. 또 각 후보 캠프는 AI로 생성·변경한 내용이 있는 광고를 게재할 시 공개적으로 표기해야 한다.

이 외에도 ▲콜센터 근로자 대체 ▲사망자 디지털 복제 ▲성우 및 오디오북 담당자 저작권 무단 도용 등 이슈에 AI가 사용되는 것이 금지된다.

딥페이크(제공=이미지투데이)

캘리포니아 주에선 법안에 대해 치열한 논쟁이 벌어지고 있다. 앤트로픽과 일론 머스크는 법안 제정에 찬성하며 법 제정의 이익이 비용보다 클 것으로 전망했다. 반면 오픈AI, 구글 등 빅테크도 법안이 AI를 악용하는 사람들보단 개발자를 향해 있다며 비판했다.

외신들은 법안은 모델 훈련에 1억 달러 이상의 데이터가 필요한 시스템을 대상으로 하고 있지만 현재 AI 모델 중 이 기준에 도달한 시스템은 전무하다고 보도했다.

전문가 및 의원들은 각기 다른 의견을 선보였다. 미국 진보를 위한 회의 토드 오 보일 수석 기술 정책 책임자는 AI의 이론적 시나리오 때문에 캘리포니아의 주요 경제 부분을 억제하면 안 된다고 주장했다.

또 낸시 펠로시 전 캘리포니아 주 하원 의장은 "이번 법 제정이 선의인 것은 알지만 관련한 정보가 부족해 보인다"고 우려했다.

반면 미국 공화당 데본 매시스 의원은 "해당 법안을 지지한다"며 "빅테크는 이제 어떤 종류의 규칙을 따라야 할 필요가 있다"고 말했다.