[기고] AI 기본법 하위법령, 규제와 진흥 간 균형의 시험대

[AI 컨택] 오세인 변호사 "산업 진흥에 초점 맞춘 韓 AI법…규제 균형은 숙제"

챗GPT 등장 이후 인공지능(AI)과 신기술, 혁신적인 서비스의 개발을 해하지 않으면서도 이용자의 권리와 개인정보를 보호하려면 어떤 것을 고려해야 할 지에 대한 논의가 최근 활발해진 분위기다. 급변하는 정보사회에서 AI와 개인정보 보호에 있어 우리 사회가 취해야 할 균형 잡힌 자세가 어떤 것인지에 대해 법무법인 태평양 AI팀에서 [AI 컨택]을 통해 2주 마다 다뤄보고자 한다. [편집자주]

지난 2022년 말 '챗GPT'의 등장은 인공지능(AI) 기술이 사회 전반에 본격적으로 파고드는 계기가 됐고 불과 몇 년 만에 AI는 산업과 일상 곳곳으로 확산됐다. 각국은 AI의 급속한 발전으로 야기될 수 있는 이용자의 기본권 침해 등을 규제하면서도 동시에 AI 산업에서의 주도권을 놓치지 않기 위해 AI의 발전을 촉진하는 내용의 법제 정비에 나섰다.

미국은 지난 2023년 AI 위험관리 프레임워크를 마련해 민간 자율 규범 중심의 접근을 취했고 유럽연합(EU)은 세계 최초의 포괄적인 AI 규제법인 EU AI 법을 제정해 내년부터 시행을 앞두고 있다. 또 일본은 지난 6월부터 시행된 AI 촉진법을 통해 AI 연구개발, 이용의 촉진을 제도적으로 뒷받침하고 있다.

이러한 흐름 속에서 우리나라도 지난해 12월 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)을 제정했다. AI 기본법은 내년 1월 시행을 앞두고 있다. 

오세인 법무법인 태평양 변호사 (사진=조이환 기자)

AI 기본법은 AI의 정의와 분류, 사업자의 의무 등을 규정해 큰 틀을 제시했다. 다만 실제로 AI 기본법이 유효하게 작동하기 위해서는 시행령과 고시, 가이드라인과 같은 하위법령이 핵심적 역할을 하게 된다. 이에 과학기술정보통신부는 총 70여 차례의 산업계·학계·시민단체·관계부처 등의 의견수렴을 거쳐 하위법령 초안을 마련했다.

과학기술정보통신부가 지난 8일 발표한 AI 기본법 하위법령 제정방향에 따르면 하위법령 초안은 AI 연구개발 지원, 학습용 데이터 구축, 중소기업·창업 지원, 전문 인력 양성, 해외 진출 지원 등 다양한 AI 산업 진흥 조치를 담고 있다. 산업 전반에서 AI 도입을 촉진하고 기업이 기술 변화를 선도할 수 있도록 유연한 제도적 기반을 마련하려는 의도가 뚜렷하다. 동시에 구체적인 안전·신뢰 확보 장치도 포함됐다.

더불어 생성형과 고영향 AI에는 사전 고지와 결과물 표시(워터마크) 의무가 부과되고 누적학습량이 일정 수준 이상인 고성능 AI에는 위험 식별과 평가, 완화 조치 등 안전 확보 의무가 부과된다. 

또 생명·신체·기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 특정 영역(보건의료, 교통, 에너지, 교육, 원자력 등)에서 활용되는 AI 시스템인 고영향 AI에 대해서는 영역별 판단 기준과 위험관리방안, 이용자보호방안 등을 규정할 예정이다. 신뢰성 확보를 위한 구체적인 조치도 마련된다. 이 외에도 사업자가 자율적으로 실시하는 AI 영향평가가 도입되며 고영향 AI에 대해서는 영향평가 실시 노력 의무가 부과된다.

이같이 정부는 AI 기본법 하위법령 제정방향에서 가능한 한 AI 규제와 진흥 간 균형을 이루기 위해 노력한 것으로 보인다. 다만 스스로 자평하고 있듯이 글로벌 규범 동향과 국내 AI 산업의 발전을 고려해 규제보다는 진흥에 초점을 두고 있는 것으로 생각된다. 

일례로 국방 및 국가안보 목적으로만 이용되는 AI는 기본법 적용 대상에서 제외하고 일정 기준을 충족하는 AI에 대해서만 투명성 및 안전성 의무 등이 부과된다. 더불어 AI의 영향평가 등에 대해서는 이를 강제하기 보다는 자율적 실시에 맡기고 있다. 특히 시행 초기에는 과태료 계도기간을 둬 규제를 단계적으로 적용함으로써 기업들의 혼란을 최소화할 수 있도록 설계했다.

규제와 진흥의 균형은 그 자체로 양면성을 지닌다. 규제에 무게를 두면 기업은 새로운 AI 개발에 신중해질 수밖에 없고 이는 혁신의 속도를 늦추게 된다. 특히 자본과 인력이 부족한 신생 기업에게는 규제를 준수해야 한다는 부담 자체가 초기 진입 장벽으로 작용할 위험이 크다. 

반대로 진흥에만 치중하면 고도화된 AI로 인해 이용자의 기본권이 침해될 수 있고 국제 규범과의 정합성 측면에서 국내 AI의 안전성 및 신뢰성에 대한 의심이 싹틀 수 있다. 특히 비교적 구체적이고 구속력 있는 규제를 마련한 EU AI 법 등과 비교했을 때 국내의 AI 규제 체계가 과연 글로벌 기준에 부합하는 수준으로 진화할 수 있을지에 대한 의문도 남을 수 있다.

법적 불확실성을 줄이려는 노력 역시 장단을 동시에 가진다. 구체적 기준과 가이드라인이 제시되면 기업은 예측 가능한 환경에서 사업을 추진할 수 있어 불필요한 법적 분쟁을 피할 수 있다. 다만 세부 규정이나 가이드라인이 지나치게 경직되면 신속히 변하는 기술 발전을 따라가지 못한다. 

반대로 규정이 지나치게 느슨하면 이용자의 신뢰를 확보하기 어렵다. 법적 불확실성을 줄이는 것이 반드시 규제의 실효성을 담보하는 것은 아니며 효과적인 규제를 마련하기 위해서는 유연성과 안정성 사이의 균형을 이루는 것이 관건이다.

이번에 정부가 제시한 AI 기본법 하위법령 제정방향은 계도기간 운영, 컨설팅·비용 지원, 인센티브 부여 등 사업자의 실질적인 부담을 줄여주는 장치를 많이 두고 있다는 점에서 기업에게는 보다 친화적인 규제라고 볼 수 있다. 

다만 국제 규범과의 정합성, 규제 실효성, 이용자 신뢰 확보라는 과제는 여전히 남아 있다. 특히 EU와 같은 강력한 규제 체계를 갖춘 국가들과 교역하는 상황에서 국내 기업이 두 체계 사이의 간극을 어떻게 메울지도 중요한 문제로 떠오를 것이다.

현재로서는 AI라는 새로운 기술에 대한 규제가 실제로 기술 발전과 국민 안전에 어떤 영향을 미칠지, 어느 정도의 실효성을 가질지 예측하기 어렵다. 이에 엄격한 규제보다는 산업 진흥에 보다 무게를 두는 것이 시대적 흐름에 부합하다. 그런 점에서 이번 정부의 하위법령 제정 방향은 바람직하다고 생각된다.

AI 기본법 하위법령은 결국 기업과 정부 모두에게 시험대가 될 것이다. 산업계는 내부적으로 AI 기획·개발·운영 단계별 법적 검토 기준을 마련하고 이를 체계적으로 관리할 수 있는 거버넌스를 구축해야 한다. 정부는 AI 기본법 집행 과정에서 산업 진흥과 이용자 보호 사이의 균형이 실제로 구현될 수 있도록 지속적으로 제도를 고도화할 필요가 있다. 

내년 AI 기본법 시행 이후 이 법이 단순한 선언에 그치지 않고 실질적인 안전과 신뢰를 담보하면서도 혁신을 뒷받침하는 제도가 될 수 있을지, 그 결과가 곧 한국형 AI 거버넌스의 성패를 가늠하게 될 것이다.