오픈AI가 생성형 인공지능(AI) 기술로 생성한 콘텐츠에 디지털 워터마크를 붙이자는 캘리포니아 법안에 찬성한다고 밝혔다.
27일 벤처비트 등 외신이 따르면 오픈AI가 미국 캘리포니아주 하원의원 버피 윅스에 서한을 보내 AI 콘텐츠에 워터마킹과 같은 출처가 중요하다며 '캘리포니아 디지털 콘텐츠 출처 표준(AB 3211)' 법안 지지 의사를 밝혔다. 특히 선거철에 출처 증명과 관련한 AI 투명성이 중요하다고 강조했다.
'디지털 출처표준법'은 조작된 음성이나 딥페이크 이미지, 영상 등 유해 콘텐츠 생성 방지와 출처 확인을 위해 AI로 만든 생성물에 표식을 붙이도록 하는 법안이다. 캘리포니아 주 하원은 이 법안을 62대 0 만장일치로 통과시켰다. 현재 주 상원 전체 표결을 앞두고 있다.
캘리포니아 주 상하원을 모두 통과할 경우 개빈 뉴섬 주지사가 서명하면 공식 발효된다.
올해는 미국과 유럽연합(EU), 인도네시아 등 전 세계 많은 지역에서 선거가 예정돼 있다. 이에 따라 딥페이크를 비롯해 생성형 AI를 활용한 허위조작 영상들이 선거 투명성과 민주주의 가치를 훼손할 수도 있다는 우려가 커지고 있다.
최근 미국에선 민주당 대통령 후보인 카멀라 해리스 부통령의 딥페이크 영상이 등장해 논란이 됐다. 또 올해 초에는 조 바이든 대통령과 도널드 트럼프 전 대통령 딥페이크 영상이 급속 확산되기도 했다.
오픈AI는 개발자가 자체 AI 모델에 대한 안전 테스트를 의무화하는 캘리포니아 법안 '첨단 AI 시스템을 위한 안전과 보안 혁신법안(SB 1047)에는 반대 의사를 밝혔다. 생성형 AI 생태계 발전을 저해한다는 이유에서다.
빅테크 "워터마크 기술 이미 완성...법안 통과만 기다려"
현재 국내외 빅테크들은 생성형 AI로 만든 콘텐츠에 워터마크 부착할 수 있는 기술을 개발한 바 있다. 다만 구체적인 워터마크 기준이나 관련 법안이 세세히 마련되지 않아 활발히 이용되지 않았다.
오픈AI는 지난 2월 공식 홈페이지를 통해 자사 이미지 생성형 AI 도구인 '달리3'로 만든 이미지에 디지털 워터마크를 붙인다고 밝혔다. '콘텐츠 출처 및 진위 확인을 위한 연합(C2PA)' 워터마크를 붙인다고 했다.
C2PA는 콘텐츠 출처와 정보 확인을 위한 개방형 기술을 연구하는 협의체다. 2021년 설립된 이 협의체에는 국제 표준화 그룹과 콘텐츠 워터마킹 관련해 가장 표준에 근접해 있는 그룹이다. 마이크로소프트를 비롯한 어도비, 인텔 등이 협의체에서 활동하고 있다. 네이버도 최근 C2PA 기술 표준 개발에 참여했다.
오픈AI뿐 아니라 메타도 워터마크 부착 추진에 나섰다. 자사 AI 도구 '메타 AI'를 사용해 만든 이미지뿐만 아니라 제3 도구로 만든 콘텐츠에 '이매진드 위드 AI' 모양의 워터마크를 붙이겠다고 발표했다. 자사 소셜미디어 페이스북, 인스타그램, 스레드에 업로드된 생성 이미지에 우선 적용한다. 구글도 지난 1일 AI 챗봇 '바드'에 이미지 생성 기능을 추가하면서 딥마인드의 워터마크를 적용한다고 발표했다.
앞서 캘리포니아 주 의원들은 이번 입법 시즌에 65개의 AI 관련 법안 도입을 시도했다. 논의 끝에 다수 법안은 폐기됐다. 이중 AB 3211과 SB 1047 법안이 가장 큰 주목을 받고 있는 것으로 전해졌다.
오픈AI 제이슨 권 최고전략책임자는 "사람들이 온라인에서 찾은 콘텐츠 출처를 이해하고, 사람이 제작한 콘텐츠와 AI가 만든 생성물 사이 혼동을 피할 수 있어야 한다"고 주장했다.
