"AI 콘텐츠 표시 안 하면 벌금"…스페인, AI 규제 강화

최대 555억원 과징금 부과…하원 승인 시 EU 첫 법안 시행

스페인 정부가 인공지능(AI)으로 생성된 콘텐츠를 표시하지 않고 사용하는 기업에 벌금을 부과한다.

12일 테크크런치 등 외신에 따르면 스페인 정부가 딥페이크 등 생성형 AI 악용 확산 방지를 위해 이같은 법안을 승인했다. 현재 하원 승인을 기다리리고 있는 상태다. 법이 최종 승인되면 유럽연합(EU) 국가 중 처음으로 스페인이 해당 법을 시행하는 국가가 된다.

법안 내용에 따르면 AI로 생성된 콘텐츠를 적절히 표시하지 않는 행위는 '중대한 위반'으로 분류된다. 위반 시 최대 3천500만 유로(약 555억825만원) 또는 전 세계 연간 매출 7%에 해당하는 벌금이 부과된다.  

스페인 정부가 인공지능(AI)으로 생성된 콘텐츠를 표시하지 않고 사용하는 기업에 벌금을 부과한다. (사진=챗GPT)

이 법안은 취약한 집단을 조종하는데 사용될 수 있는 '서브리미널 기술' 사용을 금지한다. 서브리미널 기술은 인지할 수 없는 소리나 이미지를 통해 사람을 은밀하게 조종하는 방식이다. 도박을 유도하는 챗봇이나 어린이들에게 위험한 행동을 하도록 부추기는 이미지가 대표 예시다. 

스페인 정부는 AI로 행동이나 특성 기준으로 사람을 분류하거나 혜택 제공 여부를 결정, 범죄 위험성을 평가하는 행위를 금지하는 것도 법안에 포함했다. 다만 국가 안보를 위해 필요한 경우 공공장소에서 실시간으로 생체 정보를 인식하고 감시하는 것은 당국의 허가를 받은 경우에만 예외적으로 허용된다.

법안 시행은 스페인 AI 감독 기관인 AESIA가 주관한다. 개인정보 보호와 범죄, 선거, 신용평가, 보험, 자본시장과 관련된 사항은 각 분야 전문 감독 기관이 관할할 예정이다.

오스카 로페즈 스페인 디지털전환부 장관은 "이 법안은 고위험 AI 시스템에 대한 엄격한 투명성 의무를 부과하기 위한 것"이라고 밝혔다.