EU, AI로 '사회적 점수 평가·결정 조작' 전면 금지

'위험 AI 기술' 규제 본격 적용…실시간 생체인식 등도 '불법화'

유럽연합(EU)이 지난해 공표된 인공지능(AI)법에서 규정한 '위험성 높은 AI 시스템' 전면 금지 조치를 본격 적용한다. 

테크크런치에 따르면 EU는 2일(현지시간)부터 '용납할 수 없는 위험'을 초래하는 AI 시스템의 사용을 금지했다. 

유럽 의회가 지난 해 3월 최종 승인한 'AI법'은 8월부터 공식 발효됐다. 이 법이 규정한 가장 위험성이 높은 '용납할 수 없는 AI'는 6개월 준수 시한을 거친 뒤 이날부터 전면 금지된다. 

AI 법은 위험 수준을 네 단계로 나눈다. AI 스팸 필터 등의 '최소 위험군'은 규제 대상이 아니며 챗봇 등 '제한적 위험군'은 가벼운 감독을 받는다. AI 의료 추천 기능 등 '고위험군'은 강한 규제를 받으며 가장 위험한 '용납할 수 없는 AI'는 법적으로 전면 금지된다.

(사진=유럽연합)

이번 규제로 ▲사회적 점수 평가(social scoring) ▲사람의 결정을 기만적으로 조작 ▲취약 계층 악용 ▲외모로 범죄 가능성을 예측하는 AI 기술 사용이 금지된다. 

또 ▲생체 데이터를 활용해 성적 지향 등 개인 특성을 추론하는 AI ▲공공장소에서 실시간 생체 인식을 수행하는 AI ▲직장·학교에서 감정을 분석하는 AI ▲온라인 및 보안 카메라를 활용해 얼굴인식 데이터베이스를 구축하는 AI도 금지 대상이다.

기업이 이러한 AI 시스템을 EU 내에서 운영할 경우 본사가 어디에 있든 관계없이 강력한 제재를 받는다. 위반 시 최대 3천500만 유로(한화 약 5천억원) 또는 연 매출의 7% 중 높은 금액이 벌금으로 부과된다. 다만 본격적인 벌금 부과는 오는 8월부터 시작된다.

EU는 법 시행에 앞서 지난해 9월 'EU AI 협약'에 참여한 100여 개 기업의 자율 준수를 유도했다. 아마존, 구글, 오픈AI 등 주요 기업이 동참했지만 메타와 애플, 프랑스 AI 스타트업 미스트랄은 서명을 거부했다. 다만 전문가들은 금지 대상 AI가 극히 일부의 기술에 해당하기 때문에 대부분의 기업이 큰 영향을 받지 않을 것으로 보고 있다.

규제에는 일부 예외도 있다. 공공장소 생체 인식 시스템은 특정 위협을 예방하거나 실종자를 찾는 경우 법 집행 기관이 제한적으로 사용할 수 있다. 또 직장·학교 내 감정 분석 AI도 의료적 필요성이 입증되면 허용된다. 다만 모든 예외 적용에는 엄격한 정부 승인 절차가 필요하다.

로브 섬로이 슬로터앤메이 로펌 기술 담당 책임자는 "기업들은 AI 규제가 단독으로 존재하는 것이 아님을 기억해야 한다"며 "일반데이터 보호법(GDPR) 등 기타 법률 프레임워크들이 이미 존재하는 상황에서 이들이 AI기본법과 서로 어떻게 맞물리는지를 이해하는 것이 매우 중요할 것"이라고 강조했다.