EU 의회 통과한 AI 법안…"강제성 짙고 디테일 없어" 비판

AI 개발사 "데이터 공개 의무화, 영업 비밀 알려주는 셈"…"AI법 개선될 것"

인공지능(AI) 법안이 유럽연합(EU) 의회를 통과한 가운데 법 실효성에 대한 지적이 이어지고 있다. 법적인 강제성이 너무 짙고, 이로 인해 AI 생태계 동력이 상실될 수 있을 거라는 우려다. 반면 AI법은 지속적으로 개선될 것이므로 일단 지켜보자는 의견도 나오고 있다.

EU 의회가 13일 프랑스 스트라스부르에서 열린 본회의에서 AI법 최종안을 찬성 523표로 가결했다고 CNBC를 비롯한 외신들이 일제히 보도했다. 이날 표결에서 반대는 46표, 기권 49표가 나왔다.

최종안은 AI 활용 분야를 네 단계의 위험 등급으로 나눠 차등 규제하는 내용을 담고 있다. 고위험 등급으로 분류되는 의료, 교육을 비롯한 공공 서비스나 선거, 자율주행 등에서 AI 기술을 사용할 경우, 사람이 반드시 감독하고 위험관리시스템을 구축해야 한다는 내용을 담았다. 

AI 규제 법안 장면을 달리3가 그린 모습. (사진=오픈AI)

그동안 핵심 쟁점으로 알려진 얼굴인식 기술 사용도 엄격하게 제한하기로 했다. 생성형 AI 조항도 새로 추가했다. 금지 규정을 위반할 경우 최대 3천500만 유로(약 500억원) 혹은 세계 매출 7%에 해당하는 벌금을 내야 한다.

AI법이 최종 확정된 것은 아니다. 오는 5월 유럽의회 마지막 확인 과정과 유럽이사회 인준 과정을 거쳐야 한다. 이후 각 회원국에 효력을 발휘하기까지는 최대 2년 걸릴 것으로 예상된다.

AI 감시 기관 설립…생성형 AI 조항도 추가

최종안 내용에 따르면, EU 국가들은 올해 자체적으로 AI 사무소를 설립한다. 

사무소 관계자들은 범용 AI 시스템에 대한 법 진행과 감독을 담당한다. 이들은 AI를 개발하는 기업에 정보를 요청하고 해당 시스템이 법망 안에서 작동하는 것을 확인할 수 있는 권한을 갖는다. 시민들이 억울하게 규칙 위반자가 됐을 경우, 해당 기관에 이의를 제기할 수도 있다. 

티에리 브르통 EU 집행위원. (사진=유럽위원회)

법무법인 원 오정익 AI대응팀 변호사는 "EU 집행위는 올해 1월 사무소 설립을 결정하고 2월 이에 필요한 내부 절차를 진행 중인 것으로 알고 있다"고 밝혔다. 오정익 변호사는 "이 사무소가 해당 법 진행의 주도적인 역할을 할 것으로 본다"고 말했다.

법안 최종안에는 생성형 AI 조항도 추가됐다. 생성형 AI 모델 개발자는 시스템 학습에 사용된 온라인 텍스트, 사진, 동영상, 기타 데이터에 대한 자세한 요약 정보를 모두 공개해야 한다. 이와 동시에 EU 저작권법도 준수해야 한다. 

개발사는 생성형 AI가 만든 이미지와 비디오, 오디오, 딥페이크 콘텐츠 등에 인위적으로 제작됐다는 표시를 별도로 해야 한다. 자율주행차 같은 고위험 기술을 사용하는 기업들도 데이터를 공개해야만 한다. 이와 함께 안전 강화를 위해 엄격한 테스트를 거치도록 했다.

2021년 AI법 구축을 시작하던 당시 생성형 AI에 대한 조항은 없었다. 당시 AI가 매우 제한된 범위 내에서 활용됐기 때문이다. 2022년 오픈AI의 챗GPT 출시 후, EU 정책 입안자들이 생성형 AI 조항 필요성을 느낀 셈이다.

"공개 의무화 지나쳐…가이드라인 명확해야"

AI법이 다소 지나치다는 지적도 나왔다. 다수 AI 기업은 법 강제성이 너무 짙다는 입장이다. 또 AI 문제 발생에 대한 법적 책임 등 세부 항목이 부족하다는 점도 지적했다. 

김동환 포티투마루 대표는 AI법이 고위험과 저위험을 나누는 건 좋지만 기업에게 의무성을 지나치게 부여했다는 점을 꼽았다. 김동환 대표는 AI 개발사의 학습 데이터 공개 의무 조항을 예시로 들었다. 

구글 벨기에 데이터센터. (사진=구글)

그는 "기업이 어떤 종류의 데이터를 AI 모델에 넣는지, 어떻게 데이터를 다루는지 공개하는 건 과하다"며 "마치 영업 비밀을 만천하에 공개하는 것과 같은 이치"라고 말했다. 

일반적으로 개발사는 AI 모델에 데이터를 필터링 없이 넣지 않는다. 각 기업 기술력과 노하우로 데이터를 가공·정제한다. 이 과정은 모델 성능을 좌우할 수 있을 정도로 중요하다. 김 대표는 "기업들은 학습 데이터 공개로 자사 기술을 침해 당할 수 있다"고 설명했다.

그는 AI 제품 문제 발생 시 법적 책임에 대한 조항도 부족하다고 했다. 김동환 대표는 "기업이 AI법을 다 지켜서 AI 제품을 개발해도 문제가 발생할 수 있다"며 "이때 누가, 어떻게 책임을 질 것인지에 대한 명확한 조항이 없다"고 지적했다. 그는 "이대로는 기업이 법도 지키고 책임까지 다 질 수 있을 것"이라고 덧붙였다.

AI법이 빅테크뿐 아니라 스타트업에도 영향을 미칠 것이라는 의견도 내놨다. 김 대표는 "스타트업이 개발뿐 아니라 AI법까지 디테일하게 지키기엔 여력이 부족할 수 있다"며 "스타트업 생태계를 망가뜨릴 수 있을 것"이라고 전망했다.

오정익 변호사도 AI법에 명확한 기준이 정해지지 않은 점을 지적했다. 오 변호사는 "예를 들어, 주요 인프라 관련 AI 시스템 중 어느 범위를 고위험 AI에 넣는 것으로 볼 것인지에 대한 명확한 기준이 없다"고 지적했다. 

그는 "우선 법적인 기준이 명확히 정해져야 혼선이 없을 것으로 보인다"며 "이에 관해 추가적인 지침이나 가이드라인 등이 나올 것으로 본다"고 설명했다.

미국 "EU, 기업 경쟁력 제한" 비판…국내 관계자 "한국, 미국·유럽 전략 융합"

미국 전문가들도 AI법에 대한 우려하고 있다. 법이 기업 경쟁력과 투자 생태계를 제한할 것이라는 이유에서다.

유럽 싱크탱크 연구소 카네기 랄루카의 세르나토니 연구원은 "유럽 내 AI 기업은 미국, 중국 빅테크들로부터 투자금과 기술 주권을 빼앗길 수 있다"며 "AI 리더십에 대한 EU의 야망은 상당한 장애물에 봉착할 것"이라고 CNBC를 통해 지적했다.

미국 전문가들도 AI법에 대한 우려를 표명하고 있다. (사진=이미지투데이)

미국 로펌 하보틀 앤 루이스의 엠마 라이트 변호사는 "AI는 빠르게 변화하는 기술"이라며 "2년 후 AI법은 구시대적인 법안으로 전락할 수 있다"고 했다.

국내 법률 관계자도 정부가 AI법을 급히 따를 필요 없다는 입장이다. 강민구 서울고등법원 전 부장판사는 "EU권 국가는 미국과 비교할 수 없을 정도로 뒤처진 AI 기술 수준을 갖고 있다"며 "이런 상황에서 여러 가지 기본권 보호, 데이터 주권, 개인정보 보호 등을 앞세우는 규정을 만들어 낸 셈"이라고 설명했다. 강 전 부장판사는 "한국은 EU의 AI 규제 입법 추세를 검토하더라도 AI 산업 진흥에 중점을 두는 미국 방식을 따라가는 투 트랙 전략을 짜야 한다"며 "유럽식 규제에 맞춰 입법을 추진하는 우를 범해선 안 된다"고 강조했다.

모든 EU 회원국이 AI법을 긍정적으로 보는 것도 아니다. 최근 프랑스와 독일 정부는 생성형 AI 규제 방안에 우려를 표명한 바 있다. 해당 법안이 프랑스의 미스트랄AI와 독일의 알레프 알파와 같은 유럽 스타트업에 오히려 피해를 줄 것이라는 이유에서다. 현재 두 기업은 미국 빅테크들로부터 투자받으며 유럽 내에서 주목받고 있다.

유럽 시민단체도 AI법 조항을 지적했다. 기업유럽관측소(CEO) 등 시민단체는 "현재 생성형 AI 기업은 규제를 면제받은 것과 다름없다"며 "몇가지 투명성 의무만 준수하면 되는 정도"라고 지적했다. 이들은 생성형 AI 기업들이 현 AI법망을 피해 더 광범위한 작업을 수행할 수 있을 것으로 봤다. 

AI 관련 법안을 주도적으로 발의한 의원 중 한명인 드라고스 투도라쉬 의원은 "이번 AI법은 여정의 끝이 아니라 새로운 거버넌스 모델을 위한 출발점이다"며 "AI법이 현실화하는데 정치적 에너지를 집중해야 한다"고 밝혔다.