[유미's 픽] "알자지라도 주목"…AI 기본법 시행한 韓, 규제·혁신 균형 시험대

고영향 AI·워터마크 의무화에 해외서도 관심…규제 고민 나선 중동, 韓 사례 주목

#. 국내서 수백만 명의 팔로워를 보유한 강연자 김미경 씨는 최근 소셜미디어(SNS)를 통해 가짜 투자 상품을 홍보하는 딥페이크 사기에 자신의 얼굴과 목소리가 악용됐다. 피해자들은 금전적 손실을 입었고, 김 씨도 30년 넘게 쌓아온 명성이 훼손될 위기에 놓였다. 이 상황에서 'AI 기본법'이 시행되자 김 씨는 환영의 뜻을 밝혔다. AI로 생성된 이미지에 디지털 워터마크를 의무화하는 등 최소한의 보호 장치가 마련됐기 때문이다.

김 씨의 사례를 토대로 아랍권 방송사 '알자지라'가 올해 1월부터 시행된 'AI 기본법'을 최근 주목한 가운데 우리나라가 글로벌 AI 규제 균형 실험장으로 떠올랐다. 기술 패권 경쟁이 가속화되는 상황에서 산업 육성과 안전 규제를 동시에 제도화해 시행에 들어간 첫 국가라는 점에서다.

(사진=알자지라 공식 유튜브 화면 캡처)

4일 업계에 따르면 우리나라에서 지난 1월 22일 'AI 기본법'이 시행된 후 글로벌 AI 규제 지형은 빠르게 재편되고 있다. 주요국이 저마다 다른 속도와 방식으로 AI 통제 체계를 구체화하면서 우리나라의 선제적 집행이 비교 기준으로 떠오르는 양상이다.

유럽연합(EU)은 'AI 액트(AI Act)'의 단계적 시행을 앞두고 고위험 AI 세부 분류 기준과 이행 지침을 정비하고 있다. 특히 최근에는 데이터센터 전력 사용량과 탄소 배출 등 환경 보고 의무를 강화하는 방향으로 논의가 확장되고 있다. 기술 위험뿐 아니라 지속가능성까지 규제 틀에 포함하려는 시도로 읽힌다. 업계에선 EU 모델을 가장 체계적이고 엄격한 규제 체계로 평가하는 시각이 적지 않다.

미국은 연방 차원의 포괄 입법 대신 대통령 행정명령과 부처 가이드라인을 중심으로 대응하고 있다. 혁신 속도를 유지하면서 민간 자율성을 보장하는 구조다. 그러나 최근에는 오픈소스 AI 모델을 규제 범위에 포함할지를 두고 논쟁이 이어지고 있다. 개방형 모델의 확산이 안보·허위정보 리스크로 이어질 수 있다는 우려와 과도한 규제가 기술 발전을 저해할 수 있다는 주장이 맞서는 상황이다.

우리나라는 이미 기본법을 시행하며 집행 단계에 들어갔다는 점에서 EU·미국과 다른 위치에 서 있다. 입법 논의를 넘어 실제 규제 적용과 현장 검증이 동시에 이뤄지고 있다는 점에서 사실상 첫 '실행 사례'로 평가된다.

특히 AI 기본법은 생명·신체 안전 또는 기본권에 중대한 영향을 미칠 수 있는 '고영향 AI'를 별도로 규정하고, 해당 시스템에 대해 위험 평가와 인간 감독을 의무화했다는 점에서 주목받고 있다. 또 AI 생성 이미지·영상 등에 디지털 워터마크 등 표시 의무를 부과해 딥페이크 등 오남용을 억제하는 내용도 담고 있어 눈길을 끈다.

이에 대해 알자지라는 "한국의 AI 기본법은 EU 외 지역에서 가장 강력한 AI 규제 중 하나로 평가된다"며 "고영향 AI에 대해 인간 감독을 의무화하고, 생성 콘텐츠에 워터마크를 요구하는 점이 특징"이라고 보도했다.

AI기본법 지원데스크 개소식에 참여한 류제명 차관 (사진=과기정통부)

다만 고영향 AI를 판단하는 기술적 임계치가 높게 설정돼 실제 적용 대상이 제한적일 수 있다는 지적도 있다. 일정 수준 이상의 연산 규모를 충족해야 규제 범주에 포함되는 구조여서 당장 시중에 유통되는 다수의 AI 서비스는 직접적인 영향을 받지 않을 가능성이 있어서다.

동시에 스타트업의 규제 대응 비용 부담도 커질 수 있다는 우려도 나온다. 특히 AI 생성물 표시 방식이 국제 표준과 상충할 경우 해외 규제 대응과 국내 법 준수를 동시에 수행해야 하는 '이중 부담'이 현실화될 가능성도 거론된다.

이 같은 우려는 한국만의 문제가 아니라 규제 강도와 산업 경쟁력 사이의 균형을 둘러싼 글로벌 공통 과제로 떠오르고 있다. 이에 따라 각국은 자국 산업 구조와 정책 목표에 따라 서로 다른 해법을 선택하고 있다. 각국 규제 방향은 ▲엄격한 사전 규제(EU) ▲유연한 행정 중심 모델(미국) ▲집행 단계에 돌입한 한국 등으로 구분된다. 

이 중 한국의 시도는 해외 여러 나라의 관심으로도 이어졌다. 특히 AI를 탈(脫)석유 산업 구조 전환의 핵심 축으로 삼고 국가 전략으로 추진 중인 중동에선 우리나라의 AI 기본법을 주목하며 규제 마련을 추진하는 분위기다. 이 지역은 아직 포괄적 AI 기본법을 시행하지는 않았지만, 윤리 가이드라인 중심 체계에서 명문화된 법령 단계로 옮겨가는 과도기에 있는 상태다.

실제 사우디는 데이터·AI 당국(SDAIA)을 중심으로 고위험 AI 분류 체계 도입을 검토 중이다. UAE는 규제 샌드박스와 테스트베드 운영을 확대하는 한편, 차세대 AI 법제화 작업을 병행하고 있다. 또 기술 친화적 접근을 유지하면서도 합성 미디어와 허위정보에 대해서는 강한 표시 의무를 검토하는 등 한국과 유사한 쟁점을 공유하는 모습이다.

알자지라는 한국 사례를 두고 "기술 경쟁이 치열한 상황에서 규제와 혁신의 균형을 시험하는 사례"라며 "AI가 급속히 확산되는 가운데 한국은 통제와 보호 장치를 동시에 제도화한 첫 국가 중 하나"라고 밝혔다.

업계 관계자는 "기술 경쟁이 심화되는 상황에서 규제의 목적은 통제 자체보다 신뢰 확보에 있다"며 "한국이 집행 단계에 먼저 진입한 만큼 실제 적용 사례와 보완 과정이 향후 글로벌 논의의 참고 모델이 될 수 있다"고 말했다.

그러면서 "앞으로의 관건은 집행의 정밀도"며 "고영향 AI 범위의 현실성, 스타트업 부담 완화, 환경·에너지 이슈 연계, 국제 기준과의 조율이 동시에 이뤄질 때 '세계 첫 집행'이라는 상징성이 실질적 경쟁력으로 이어질 수 있다"고 덧붙였다.