베일 벗은 'AI 기본법' 시행령…진흥 우선·최소 규제 원칙 확립

AI전략위서 초안 첫선…9월 대국민 공개 거쳐 12월 제정 완료

이재명 정부가 국가 인공지능전략위원회(AI전략위원회) 출범과 동시에 인공지능 3대강국(AI G3) 도약을 이끌 AI 기본법의 구체적인 설계도를 그리고 본격적인 규범체계 수립에 착수했다.

과학기술정보통신부(과기정통부)는 8일 서울스퀘어에서 새롭게 출범한 대통령 직속 국가AI전략위원회에 AI 기본법 하위법령 초안을 보고했다. 이번 초안은 지난 4년여의 논의 끝에 지난해 12월 국회를 통과한 AI 기본법의 후속 조치다.

공개된 초안은 이달 2주차부터 대국민 공개돼 본격적인 의견수렴 절차를 밟는다. 정부는 오는 10월 입법예고를 거쳐 연내 제정을 마무리할 방침이다.

이재명 대통령 (사진=대통령실)

이번 하위법령은 내년 1월 시행되는 AI 기본법의 실질적인 작동 방식을 규정하는 첫 '설계도'다. 법의 큰 방향성 아래 기업들이 무엇을 지켜야 하고 정부로부터 어떤 지원을 받을 수 있는지 구체적인 내용이 담겼다.

진흥에 방점 찍은 유연한 규제…기업 불확실성 해소 '총력'

과기정통부는 이번 하위법령 제정의 핵심 방향을 '진흥'으로 잡고 규제는 최소화하는 원칙을 확립했다. 이는 자율규범을 앞세운 미국이나 진흥법을 택한 일본처럼 국내 산업의 경쟁력 강화를 최우선으로 고려한 조치다.

기업들이 겪는 법적 불확실성을 없애기 위한 조치도 담겼다. 정부는 어떤 사업자가 어떤 종류의 AI에 대해 의무를 지는지 그 기준을 명확히 규정해 예측 가능성을 높였다.

규제 유연성을 높여 기업 부담을 줄이는 방안도 마련됐다. 일례로 다른 법률에 따라 유사한 의무를 이미 이행했다면 AI 기본법상 의무도 준수한 것으로 간주한다.

(사진=과학기술정보통신부)

특히 법 시행 초기 시장의 혼란을 막기 위해 과태료 부과에 '계도기간'을 두기로 했다. 위반 행위가 적발되더라도 즉각적인 과태료 처분 대신 시정명령과 행정지도를 통해 개선을 유도하는 방식이다. 다만 구체적인 기간은 아직 확정되지 않았다.

정부는 여기서 더 나아가 기업들의 규제 준수를 직접 지원한다. 안전·신뢰 검증이나 AI 영향평가 이행을 위한 컨설팅과 비용을 제공하며 이를 위해 오는 내년도 예산 20억3천만원을 확보했다.

'고위험 AI' 정조준…투명성·안전성 의무 첫 윤곽

이번 규제의 핵심은 모든 AI가 아닌 국민의 안전과 기본권에 중대한 영향을 미칠 수 있는 '고위험 AI'에 집중된다. 이에 따라 국방이나 국가안보 목적으로만 사용되는 AI는 법 적용 대상에서 제외하는 등 규제 범위를 명확히 했다.

우선 생성형 AI나 고영향 AI 서비스 사업자는 이용자에게 AI 사용 사실을 사전에 알려야 한다. 또 AI가 만든 결과물에는 워터마크 등으로 표시해야 한다. 다만 사업자 내부 업무에만 쓰거나 AI 기반 서비스임이 명백한 경우엔 의무를 면제해준다.

일정 수준 이상의 '고성능 AI'에 대한 안전 확보 의무도 처음 규정됐다. 이러한 의무의 대상은 누적 학습량이 10의 26제곱 플롭스(FLOPS) 이상인 AI 시스템들로, 이들 AI는 기능 오류나 데이터 편향 같은 위험 요소를 식별하고 완화할 의무를 진다.

배경훈 과기정통부 장관 (사진=과기정통부)

에너지, 보건의료, 교통 등 국민의 생명과 직결되는 특정 영역에서 활용되는 '고영향 AI' 사업자의 책무도 구체화했다. 해당 사업자는 위험관리 조직을 운영하고 오작동 방지 대책을 수립하는 등 신뢰성 확보 조치를 이행해야 한다.

AI가 사람의 기본권에 미치는 영향을 평가하는 'AI 영향평가'는 사업자 자율에 맡기는 것을 원칙으로 정했다. 다만 고영향 AI 사업자에 한해서는 영향평가를 실시하도록 '노력 의무'를 부과해 사회적 책임을 유도했다.

정부 측은 이번 하위법령 초안이 충분한 사회적 논의를 거쳤다는 점을 강조했다. 과기정통부 측은 "산업계, 학계, 시민단체 등 민간 전문가 80여명으로 구성된 '하위법령 정비단'을 운영했다"며 "총 74회에 걸쳐 각계 의견을 수렴했다"고 설명했다.

연말까지 입법 속도전…'글로벌 의견'도 듣는다

정부는 이달부터 연말까지 숨 가쁜 입법 절차를 밟아 하위법령 제정을 마무리할 계획이다.

우선 이달 2주차부터 4주차까지 산업계, 학계, 시민단체 등 국내 이해관계자를 대상으로 하위법령안 설명회를 연다. 이 자리에서는 ▲시행령(34개 조문) ▲고시(2개) ▲가이드라인(5개) ▲과태료 계도기간 운영 계획의 상세 내용이 처음으로 공개된다.

더불어 정부는 미국 등 해외 기업과 콘텐츠 업계를 대상으로 한 추가적인 의견수렴 절차도 이달 중 별도로 추진한다. 글로벌 표준에 부합하고 투명성 확보 의무 등 특정 산업에 미칠 영향을 세심하게 살피기 위한 조치다.

지난해 12월 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법안'이 통과되는 모습 (사진=뉴시스)

정부는 이 같은 의견수렴 결과를 바탕으로 다음달 중 입법예고에 들어간다. 이후 규제 심사, 법제처 심사 등 행정입법 절차를 거쳐 오는 12월까지 시행령과 고시 제정을 완료하고 가이드라인 최종본을 공개할 예정이다.

다만 오는 12월에 공개되는 가이드라인 최종본이 끝은 아니다. 과기정통부 측은 "과태료 계도기간 중에도 산업계 의견과 해외 규제 동향 등을 지속적으로 반영해 가이드라인을 계속 고도화해 나갈 방침"이라고 밝혔다.