과기정통부 "금지된AI 규정 명백해야…국가AI센터도 필요"

"인공지능(AI) 발전과 신뢰 조성을 동시에 해야 하는 시대입니다. 관건은 '금지된AI'와 '고위험AI' 규율 대상을 명확히 구분하는 것입니다. 국가AI센터 신설도 이뤄져야 합니다."

과학기술정보통신부 남철기 AI기반정책과 과장은 16일 국회의원회관서 열린 '통일성 있는 AI 정책 추진을 위한 입법 공청회'에서 AI기본법 규정 방향성을 이같이 밝혔다.

남철기 과장은 현재 22대 국회에서 AI 기본법안을 6건 발의한 상태라고 설명했다. 국민의힘에서 3건, 더불어민주당에서 3건씩 발의한 상태다. 남 과장은 "법안 모두 여야 성역 없이 AI 확산과 규제라는 균형을 맞추기 위해 구성됐다"고 설명했다.

그는 이중 AI를 금지된AI와 고위험AI로 규율 대상을 구분하는 법안에 집중해야 한다고 주장했다. 해당 법은 더불어민주당 권칠승 의원이 발의한 법안이다. AI 규율 대상을 금지된AI와 고위험AI로 구분하고, 의무 위반에 대해 벌칙을 규정하는 법이다. 유럽연합(EU) AI기본법이 AI를 특성에 따라 구분한 방식과 비슷하다.

금지된AI란 인간 존엄과 가치, 인류 평화와 안전에 대한 심각한 침해나 위협이 명백한 AI 기술이나 제품을 말한다. 이럴 경우 정부는 해당 AI 개발과 이용을 금지한다. 고위험AI는 인간 생명, 신체 안전 등 기본권 보호에 중대한 영향을 미칠 수 있는 AI이다. 모두 유럽연합(EU)가 AI를 특성에 따라 구분한 방식과 비슷하다.

남 과장은 금지된AI 대상 규정을 신중히 바라봐야 한다고 당부했다. 그는 "국민 안전을 위한 규정에는 동의한다"며 "다만 AI 기본법에서 별도로 규정할 만큼 이 방식이 실익 있는지 판단해야 한다"고 설명했다.

그는 EU를 제외한 국가들도 금지된AI 규정에 대해 조심스럽다는 점을 근거로 제시했다. 남철기 과장은 "EU를 제외한 미국과 영국, 일본 등 주요국도 아직 이 AI 도입 필요성에 대한 논의를 시작하는 단계"라며 "정부가 이에 대한 규정을 굳이 서두를 필요 없을 것"이라고 덧붙였다.

남철기 과장은 고위험AI에 대해서도 언급했다. 그는 "AI 혁신뿐 아니라 포용까지 포함하는 AI 거버넌스 고려가 필요하다"며 고위험AI 필요성을 강조했다. 다만 강력한 규제를 포함한 고위험AI 규정에 대해서도 신중한 고려가 이뤄져야 한다고 설명했다. 그는 "EU조차도 고위험AI에 대한 규제 시행을 2~3년 후로 정한 상태"라며 "국내 정부도 단계적 보완 입법을 통해 글로벌 규범 정합성에 맞춰야 한다"고 설명했다.