[기고] 인공지능기본법 시행 이후 과제는

챗GPT 등장 이후 인공지능(AI)과 신기술, 혁신적인 서비스의 개발을 해하지 않으면서도 이용자의 권리와 개인정보를 보호하려면 어떤 것을 고려해야 할 지에 대한 논의가 최근 활발해진 분위기다. 급변하는 정보사회에서 AI와 개인정보 보호에 있어 우리 사회가 취해야 할 균형 잡힌 자세가 어떤 것인지에 대해 법무법인 태평양 AI팀에서 [AI 컨택]을 통해 2주 마다 다뤄보고자 한다. [편집자주]

인공지능기본법이 2026년 1월22일 시행됐다. 이미 유럽연합(EU)은 지난 2024년 6월 'AI 액트'를 제정한 후 작년부터 단계적으로 시행하고 있다. 미국 캘리포니아 주에서도 프론티어 AI모델에 대한 규제를 올해 초부터 시작했다. 그러나 한국은 인공지능기본법에 담긴 투명성확보의무, 고영향 인공지능사업자의 책무, 인공지능에 대한 안전성 확보 의무 등이 대대적으로 시행된다는 측면에서 주목받는다.

한국의 경우 인공지능기본법을 시행하되, 현장의 혼선을 피하기 위해 최소 1년 이상 규제 유예기간을 운영할 방침이다. 지난달 22일 법 시행과 동시에 투명성 확보, 안전성 확보 등 인공지능 가이드라인 5종을 발표했다. 법이 시행되고 가이드라인은 발표됐지만 인공지능법 하위 고시는 아직 심사 단계에 머물러 있다.

인공지능법령에 관한 전체적인 체계가 모두 공개되지 않았음에도 일각에서는 현행 인공지능법만으로 제대로 된 규율이 이뤄질 수 없다는 목소리가 들린다. 반면 인공지능사업자 등 수범자 입장에서는 현재까지 공개된 법령과 가이드라인을 따라가기도 벅차 보인다.

인터넷 시대가 처음 도래했을 때 규제를 어떻게 세우고 지켜야 할 것인가에 대한 논란이 많았듯, 인공지능 시대에 많은 혼란이 있는 것은 당연하다. 법 개정도 중요하지만 일단 법령과 가이드라인이 공개된 만큼, 현행법 체계상 규제 정합성을 맞추는 작업도 못지않게 중요하다.

인공지능기본법에서 정하고 있는 수범자는 크게 인공지능 개발사업자와 인공지능 이용사업자로 분류된다. 때에 따라 어디까지를 개발한 사업자로 보고, 어디서부터 이용만 하는 사업자로 볼지 애매한 측면이 발생할 수 있다. 고영향 인공지능 판단 가이드라인에서는 '인공지능의 중대한 기능의 변경을 초래하는 수정, 변경, 개량을 한 경우 인공지능이용사업자가 아닌 인공지능개발사업자에 해당한다'고 본다.

인공지능 안전성 확보 가이드라인에 따르면 안전성 확보조치 이행사항을 정부에 제출하는 사업자는 원칙적으로 인공지능시스템을 개발한 사업자다. 다만 인공지능에 실질적 변경을 가한 사업자 역시 추가 제출 의무를 부담할 수 있다. 실질적 변경을 가한 사업자는 인공지능의 적용 범위 또는 위험 특성 등에 중대한 영향을 미치는 변경을 한 사업자라는 게 정부 측 설명이다.

또 인공지능 투명성 확보 가이드라인에서는 인공지능을 직접 개발하는 경우뿐만 아니라 그 성능에 중대한 영향을 줄 정도로 수정, 변경, 개량한 도 인공지능을 개발한 경우에 속한다.

각 가이드라인에서 대체로 비슷한 용어를 쓰고 있으나 수범자 입장에서는 혼란이 올 수 있다.

중대한 기능 변경, 성능에 중대한 영향을 주는 변경, 적용범위나 위험 특성에 중대한 영향을 미치는 변경을 가한 경우, 엄밀히 보면 적용범위에 조금씩 차이가 있을 수 있다. 그렇다면 이 모든 경우를 '개발'로 보아야 하는지 혼란이 있을 수 있다. 이를 방지하기 위해 가이드라인별로 통일된 용어를 사용해 수범자의 혼란을 최소화하고 예측 가능성을 높일 필요가 있다.

또 다른 예를 들어보겠다. 인공지능 안전성 확보 가이드라인은 수명주기 전반에 걸친 위험관리 방안을 매우 자세히 설명한다. 반면 고영향 인공지능 사업자 책무 가이드라인은 고영향 인공지능에 대한 위험관리 계획 수립 방안이 상대적으로 부족하다.

현재까지 인공지능 안전성 확보 가이드라인의 적용을 받는 최첨단 인공지능은 개발되지 않았지만, 고영향 인공지능에 해당하는 사례는 존재한다. 그렇다면 고영향 인공지능 사업자는 위험관리계획 수립 시 고영향 인공지능 사업자 책무 가이드라인 수준만 반영하면 되는가? 아니면 인공지능 안전성 확보 가이드라인의 직접 적용은 받지 않지만 이를 참고해야 하는가? 이런 의문이 들 수 있다.