"기준 애매한 고영향"…AI 기본법, 스타트업 발목 잡을 수도

구글코리아, 상반기 '책임감있는AI포럼' 개최…AI 기본법 쟁점 집중 점검

구글코리아가 개최한 포럼에서 인공지능 기본법(AI 기본법)상 고영향 AI 기준이 모호해 자칫 스타트업에 과도한 부담이 될 수 있다는 업계의 경고가 나왔다.

구글코리아 디지털책임위원회는 올해 상반기 두 차례에 걸쳐 '책임감있는AI포럼'을 개최하고 AI 기본법의 핵심 조항들을 점검했다고 26일 밝혔다. 해당 포럼은 지난해 발족한 위원회 산하 포럼 중 하나로, 올해는 총 14명의 법조계, 정책, 기술 전문가들이 참여해 분기별로 개최된다.

1회차 포럼에서는 AI 기본법상 '고영향 AI' 정의가 가장 큰 쟁점으로 떠올랐다. 법률은 생명 안전과 기본권에 영향을 줄 수 있는 AI를 특정 11개 분야로 규정하지만 실제 산업 현장에서 적용될 기준은 지나치게 포괄적이라는 지적이 제기됐다.

지난 5월 21일 제2기 2회차 책임감있는AI포럼에서 참석자들이 기념 사진을 촬영하고 있다 사진 구글

이날 발제에 나선 이성엽 고려대 교수는 고영향 AI의 정의와 규제 기준을 짚고 산업 혁신과 안전성 확보가 양립할 수 있도록 규제 설계를 정비할 필요가 있다고 강조했다. 전문가들은 고영향 범주의 명확한 정립과 함께 모호하거나 중복된 조항의 개정 필요성에도 의견을 모았다.

지난 23일에 열린 2회차 포럼에서는 'AI 안전성·투명성 확보'와 'AI 영향 평가' 의무화 조항이 집중 논의됐다. 급변하는 기술 발전 속도에 맞춰 모든 AI 기업에 획일적 기준을 적용할 경우 과잉 규제가 될 수 있다는 우려가 중심이다.

이상용 건국대 교수는 발표에서 AI 위험을 맥락 기반 위험과 능력 기반 위험으로 나누고 규제 또한 해당 기술의 사용 맥락에 따라 유연하게 설계돼야 한다고 주장했다. 권은정 가천대 교수는 영향평가 도입의 의의를 짚으며 다층적 리스크를 고려한 플랫폼 구축과 정부-민간 협력 필요성을 제시했다.

참석자들은 AI 영향 평가의 실효성을 확보하려면 대상과 범위, 주체의 책임 등 정책적 뒷받침이 필요하다는 데 공감했다. 특히 스타트업처럼 자원이 부족한 기업이 부담을 감당할 수 있도록 단계적 규제 적용이 필요하다는 의견도 나왔다.

하반기 포럼에서는 AI 에이전트와 로봇 기술 등 신기술로 인한 산업 변화가 주요 의제로 다뤄질 예정이다. 기술 발전에 따른 규제 프레임 재정립 논의가 본격화될 것으로 보인다.

최재식 카이스트 김재철AI대학원 교수 겸 XAI 연구센터장은 "기존 AI 서비스가 가진 한계와 취약성에 얼마나 효과적으로 대응하는지가 향후 책임성과 리더십의 분수령이 될 것"이라며 "지금이야말로 AI를 안전하고 효율적으로 사용하는 체계를 갖춰야 할 때"라고 밝혔다.