더불어민주당 김우영 의원은 생성형 AI를 활용한 결과물에 대한 표시 의무를 합리적으로 정비하는 AI기본법 개정안을 대표발의 했다고 9일 밝혔다.
현행법은 생성형 AI 또는 이를 이용한 제품과 서비스를 제공하는 경우 그 결과물이 생성형 AI에 의해 생성됐다는 사실을 표시하도록 하고 있다. 또 실제와 구분하기 어려운 음향과 이미지, 영상 등에 대해서도 이용자가 명확히 인식할 수 있도록 고지 또는 표시하도록 규정하고 있다.
다만 현행 규정은 배경 생성, 색 보정, 화면 정리 등 단순한 편집 보조 수준의 AI 활용까지 표시의무 대상에 포함될 수 있어 창작과 콘텐츠 산업 현장에 과도한 부담을 줄 수 있다는 지적이 제기됐다. 이용자가 제공한 데이터나 그 의미가 실질적으로 변경되지 않은 경우까지 표시의무를 부과하는 것은 AI 활용을 위축시킬 수 있다는 우려도 있다.
개정안은 생성형 AI 또는 이를 이용한 제품과 서비스가 표준적인 편집의 보조에만 활용되거나 이용자가 제공한 데이터 또는 그 의미를 실질적으로 변경하지 않는 경우에는 표시의무의 예외를 인정하도록 했다.
관련기사
- "방미통위에 미디어교육위원회 설치, 범부처 종합 추진체계 마련"2026.05.15
- "2년도 안 돼 뒤집힌 발사체 계획…정치적 판단이 기술 흔들어선 안돼"2025.10.19
- "도박·마약·저작권침해도 성범죄물처럼 즉시 차단 필요”2025.10.16
- "GPU 만으론 한계...AI 데이터센터 상면 확보해야"2025.10.13
아울러 현행법상 ‘예술적 창의적 표현물’의 표현을 문화산업진흥 기본법에 따른 문화상품으로 구체화하고 문화상품에 대해서는 전시 향유 등을 저해하지 않는 필요최소한의 방식으로 고지 또는 표시할 수 있도록 했다.
김 의원은 “AI 생성물에 대한 투명성은 반드시 필요하지만 단순한 보정이나 편집 보조까지 일률적으로 표시의무를 부과하는 것은 창작과 산업 현장의 현실에 맞지 않는다”며 “AI 활용 사실을 숨기는 문제는 막되 AI 를 도구로 활용하는 정상적인 창작과 서비스 혁신까지 위축시켜서는 안 된다”고 말했다.
