AI 생성물 투명성 표준 나온다...딥페이크 범죄 방지

한국정보통신기술협회는 인공지능(AI) 생성물의 오남용으로 인한 디지털 범죄 등 사회적 혼란을 막기 위해, 인공지능 기반 합성 콘텐츠 인공지능 기반 합성 콘텐츠의 투명성 확보를 위한 요구사항 표준화를 추진한다고 밝혔다.

최근 경찰청 통계자료에 따르면 AI 기술을 악용한 허위 영상물(딥페이크) 제작 및 유포 등의 디지털 성범죄는 2024년 812건으로 2023년 168건과 비교했을 때 약 5배 증가했다.

이런 범죄가 폭증하고 있는 배경에는 생성형 AI 기술 발전에 따라 누구나 쉽게 ‘현실보다 더 현실 같은’ 콘텐츠를 생성할 수 있게 되면서 특정 콘텐츠가 사람이 직접 창작한 생성물인지 AI를 통한 생성물인지 출처를 식별하기 어렵다는 점도 한몫을 하고 있다.

사진=이미지투데이

정부는 올해 제정된 AI기본법을 내년부터 시행할 예정으로 생성형 AI가 만든 생성물에는 인공지능이 생성한 결과물임을 표기하는 ‘AI 표시 의무제’를 도입하기로 했다.

협회는 AI 생성물의 투명성 연구를 지속적으로 진행해왔으며, 지난 1월 ‘인공지능(AI) 워터마크 기술 동향 보고서’를 발간했다. 또한 AI 생성물의 무분별한 악용을 방지하고자 ‘인공지능 기반 합성 콘텐츠’ 표준화를 추진한다. 이를 통해 TTA는 인공지능 생성물 투명성 인공지능 생성물 투명성 관련 메타데이터, 워터마크 방식 등 투명성 정보 표시 기술, 인공지능 생성물 정의, 각 생명 주기별 이해관계자 및 요구사항 등을 제공할 예정이다.

손승현 협회장은 “인공지능 생성물 활용 범위가 사회 전반으로 확대되고 있는 만큼, 사회 전체의 안전한 정보 유통에 있어 인공지능 생성물에 대한 투명성은 보다 중요해지고 있다.”며, “이번 표준화를 통해 인공지능 생성물 활용성 확대와 신뢰할 수 있는 정보 유통 환경 조성에 기여할 수 있을 것”이라고 밝혔다.