EU, 챗봇·딥페이크에 ‘AI 생성’ 표시 의무…위반시 매출 3% 과징금

소비자 대상 투명성 규정 시행…기업들 "기준 모호해 혼란" 반발

유럽연합(EU)이 챗봇과 딥페이크, 인공지능(AI)으로 만든 광고·마케팅 콘텐츠에 AI 사용 사실을 표시하도록 의무화한다. 유럽 기업들은 새로운 규정 시행을 앞두고 웹사이트와 고객상담 시스템을 서둘러 손보고 있다.

2일(현지시간) 파이낸셜타임스(FT) 보도에 따르면 온라인 유통업체와 여행사, 광고회사 등은 8월 2일부터 적용되는 EU AI법의 투명성 규정에 맞춰 관련 시스템을 개편하고 있다.

새 규정에 따라 기업은 소비자가 AI 챗봇과 대화하고 있다는 사실을 알려야 하며, AI로 생성한 이미지와 음성, 영상에도 별도 표시를 붙여야 한다. EU 집행위원회는 이날부터 규정을 위반한 기업을 제재할 수 있다.

사진_클립아트코리아

패트릭 반 에커 쿨리 변호사는 이를 유럽 웹사이트에 쿠키 동의창이 보편화된 것에 빗대 AI의 쿠키 배너 순간이라고 표현했다. 소비자들이 일상적으로 AI 생성 표시를 접하게 될 것이라는 의미다.

외신에 따르면 EU는 미국과 중국에 뒤처진 AI 경쟁력을 높이기 위해 기업의 AI 도입 확대도 독려하고 있다. 그러나 기업들은 AI 사용을 늘리라고 요구하면서 해석하기 어려운 규제까지 동시에 부과하고 있다고 반발한다.

광고·마케팅 자료의 약 90%에 AI를 활용하는 독일 온라인 유통업체 잘란도는 새 지침이 불필요한 규제를 하나 더 추가했다며 기업마다 기준을 다르게 해석할 수 있다고 지적했다.

기술업계는 AI로 만든 거의 모든 콘텐츠에 표시를 붙이면 소비자가 경고를 무시하는 표시 피로가 나타날 수 있다고 우려한다. 반면 EU는 일반적인 사진 편집 등에는 예외를 두고 있어 작은 수정까지 모두 표시해야 하는 것은 아니라고 설명했다.

EU 집행위원회는 같은 날부터 사회 전반에 큰 영향을 줄 수 있는 범용 AI 모델을 조사할 권한도 갖는다고 외신은 설명했다. 위반 기업에는 직전 회계연도 전 세계 매출의 최대 3% 또는 1500만 유로(약 248억 7990만원) 가운데 더 큰 금액을 과징금으로 부과할 수 있다.

다만 기술업계와 일부 회원국의 반발로 고위험 AI 시스템에 대한 규정 시행 시점은 2027년 12월로 연기됐다. 업계에서는 규제 강도보다 기준이 자주 바뀌고 예측하기 어렵다는 점이 더 큰 부담이라는 지적이 나온다.

이번 법률과 관련해 기업에 자문하는 한 변호사는 “기업들이 힘들어하는 이유는 규제 자체가 지나치게 엄격해서라기보다 기준을 예측하기 어렵고 계속 바뀌기 때문”이라며 “기업들은 이런 불확실성을 좋아하지 않는다”고 말했다.