정부, AI 기본법 시행령 공개…업계는 '환영 반, 우려 반'

정부가 '산업 진흥'을 최우선에 두고 과태료 계도기간 등 업계의 부담을 더는 내용을 담은 인공지능(AI) 기본법 하위법령 청사진을 공개했지만 '비가시적 워터마크' 허용 등 일부 조항의 실효성을 두고 현장의 물음표가 남았다.

과학기술정보통신부는 17일 서울 상연재 별관에서 'AI 기본법 하위법령 제정방향' 기자스터디를 열고 내년 1월 법 시행을 앞두고 마련한 시행령 초안, 2개 고시, 5개 가이드라인의 주요 내용을 발표했다.

특히 과기정통부는 법 시행 초기 기업들의 혼란을 줄이고 준비 기간을 부여하기 위해 과태료 부과에 대한 계도기간을 최소 1년 이상 운영한다. 이에 따라 위반 행위가 적발되더라도 즉각적인 과태료 부과 대신 시정명령과 함께 컨설팅 등 행정 지도가 이뤄질 전망이다.

과기정통부 "AI 산업 진흥이 우선…규제는 필요 최소한으로"

이날 정부 측은 이번 하위법령 제정이 AI 산업 발전을 최우선으로 고려한 '필요 최소한의 규제'라는 점을 분명히 했다. AI 기술의 빠른 변화 속도를 감안해 경직된 법규 대신 시장과 함께 발전하는 유연한 규제 체계를 만들겠다는 구상이다.

김경만 과기정통부 인공지능기반정책관은 "산업계와 시민단체의 시각이 다를 수 있다"며 "어느 한쪽의 시각으로만 법을 보면 부족한 점이 많을 것"이라고 말했다. 이어 "업계와 시민단체, 인공지능 진흥과 통제 가능성에 대한 고민을 함께하며 균형감 있게 접근해달라"고 당부했다.

이어 발표에 나선 심지섭 사무관은 하위법령의 구체적인 내용을 공개했다. 핵심은 AI의 잠재적 위험으로부터 국민을 보호하고 신뢰를 확보하기 위한 ▲투명성 확보 의무 ▲고성능 AI 안전성 확보 의무 ▲고영향 AI 사업자 책무 등이다.

심 사무관에 따르면 기본법은 생성형 AI나 고영향 AI 사업자가 제공 서비스가 AI 기반 서비스라는 사실을 이용자에게 사전에 알려야 하도록 의무를 부과한다. 또 AI가 만든 결과물에는 워터마크 등으로 생성 사실을 표시해야 하게 한다. 다만 정부는 산업계 부담을 덜어주기 위해 소프트웨어로만 판독 가능한 '비가시적 워터마크'도 허용하고 사업자 내부 업무용 등에는 의무를 면제해 주기로 했다.

일정 수준 이상의 '고성능 AI'에 대해서는 별도의 안전성 확보 의무가 부과된다. 누적 학습량이 '10의 26제곱 부동소수점 연산(FLOPs)' 이상인 AI가 대상이다. 이는 유럽연합(EU) 기준인 10의 25제곱보다 완화된 미국 기준을 따른 것으로 해당 사업자는 위험 식별-평가-완화 체계를 구축하고 정부에 관련 자료를 제출해야 한다.

에너지, 보건의료, 교통 등 국민의 생명과 기본권에 큰 영향을 미치는 영역의 AI는 '고영향 AI'로 정의된다. 고영향 AI 사업자는 위험관리 방안과 이용자 보호 방안을 자체적으로 수립해 이행해야 한다. 정부는 기업의 이중규제 부담을 막기 위해 개인정보보호법 등 다른 법률에 따라 유사한 조치를 이미 취했다면 해당 의무를 이행한 것으로 간주하기로 했다.

과기정통부는 법적 의무가 부과되는 'AI 사업자'의 범위도 명확히 했다. 법의 규제를 받는 대상은 AI를 직접 개발한 '개발 사업자'와 이를 활용해 서비스를 제공하는 '이용 사업자'까지다. 반대로 AI 서비스를 단순히 업무에 활용하거나 결과물을 만들어내는 최종 '이용자'는 의무 대상에서 제외된다.

심 사무관은 "일례로 AI 서비스를 이용해 영상을 만든 영화 제작사는 이용자일 뿐"이라며 "이 경우 워터마크 부착 의무는 영화 제작사가 아닌 AI 서비스 제공 사업자에게 있다"고 설명했다.

"워터마크 실효성 있나"…AI 규제 허점 파고든 현장 질의

정부의 '진흥 우선, 유연 규제' 기조 발표 이후 이어진 질의응답에서는 기자들의 질문이 쏟아졌다. 이들은 규제의 실효성과 잠재적 허점 기업의 실질적 부담 등을 지적하며 정부의 구체적인 입장을 물었다.

가장 먼저 도마 위에 오른 것은 '비가시적 워터마크'였다. 어느 기자는 "사람 눈으로 식별이 불가능하다면 이용자에게 AI 생성물임을 알려야 한다는 법의 취지에 반하는 것 아니냐"고 지적했다.

이에 대해 과기정통부 측은 일반적인 생성물의 경우 콘텐츠 산업 위축을 막기 위한 조치이며 딥페이크 등 사회적 오용 가능성이 큰 결과물은 법률상 '이용자가 명확하게 인식할 수 있는 방식'으로 표시하도록 구분해 규정했다고 해명했다.

'규제 사각지대'에 대한 우려도 제기됐다. 법이 AI 개발사와 서비스 제공 사업자만 규율할 뿐 AI를 악용해 딥페이크 범죄 등을 저지르는 최종 이용자는 다루지 않는다는 지적이다.

과기정통부 관계자는 "AI 기본법은 AI라는 도구 자체에 대한 법"이라며 "이용자의 오남용 행위는 성폭력처벌법 등 기존 개별법 체계로 규율되는 것"이라고 설명했다.

과태료가 유예되더라도 정부의 '사실조사' 권한이 스타트업을 위축시킬 수 있다는 지적도 나왔다.

이에 현장에 참석한 정부 관계자는 "사실조사는 어떤 문제가 있는지 파악해 정책을 만들고 제도를 개선하기 위한 중요한 과정"이라며 "조사 자체를 막으면 실무 데이터 확보가 어려워진다"고 설명했다. 이어 "시행령에 부당한 조사를 막을 예외 규정을 뒀으며 처벌보다 길라잡이를 만드는 게 목적"이라고 말했다.