[AI 기본법 시행②] "준비만이 살 길"…대기업·스타트업·협단체 대응 총력

한국 인공지능(AI) 산업 지형도를 근본적으로 바꿀 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)'이 오는 22일 전격 시행된다. 한국은 유럽연합에 이어 두 번째로 AI 산업에 대한 포괄적인 법안을 마련했다.

규제를 포함한 AI 법률을 전면 도입하고 시행하는 기준으로는 우리나라가 세계 첫 번째 국가다. AI 서비스 신뢰성이 곧 경쟁력이 되는 시대가 온 만큼 국내 산업 현장은 법 준수와 더불어 선제 대응 경쟁에 돌입한 모습이다.

"AI 생성 결과물입니다"…업계, 워터마크·약관 정비 '속도전'

AI 기본법상 핵심 의무 중 하나는 생성형 AI를 활용한 이미지, 영상, 음성 콘텐츠에 'AI 생성물' 사실을 알리는 식별 표시(워터마크)를 부착하는 것이다. 딥페이크 등 가짜 정보로 인한 사회적 혼란을 막기 위한 장치다.

우선 네이버는 법 시행을 두 달여 앞둔 지난해 11월 말부터 블로그, 카페, 네이버TV, 클립 등 주요 이용자 제작 콘텐츠(UGC) 플랫폼에 'AI 생성 콘텐츠 표기' 기능을 도입했다. 이용자가 콘텐츠를 올릴 때 AI 기술이 활용됐는지 직접 표시할 수 있도록 한 것이다.

네이버는 쇼핑라이브 등 실시간 서비스에서도 AI 워터마크를 의무화하는 등 적용 범위를 전 서비스 영역으로 확대할 방침이다.

카카오는 다음 달 4일부터 적용할 통합서비스 약관에 '회사가 제공하는 서비스에 AI 기반 서비스가 포함될 수 있으며, AI 생성 결과물을 제공할 경우 관련 법에 따라 고지·표시한다'는 내용의 조항을 신설했다.

"스타트업도 비용 부담 없이 법 준수"…'비가시성 워터마크' 무상 공급

자금과 기술력이 부족한 AI 스타트업들은 법 준수가 자칫 사업 진입 장벽이 될 수 있다고 우려한다. 이를 해결하기 위해 생성AI스타트업협회는 'K-세이프 공개 API(응용 프로그램 인터페이스)' 서비스를 국내 AI 기업들에 무상으로 공급하기로 했다.

생성AI스타트업협회 회원사인 스냅태그가 지원하는 이 기술은 생성 AI 콘텐츠 신뢰성 확보와 출처 검증을 지원하는 공개 인프라로, '비가시성 워터마크'가 핵심이다.

육안으로 보이지 않지만 기계는 즉각 읽어낼 수 있는 워터마크를 콘텐츠 생성 순간에 삽입한다. '확률'이 아닌 '결정적 판정' 방식을 사용해 수사나 법적 분쟁 시 명확한 근거로 활용될 수 있다.

또 원본 콘텐츠를 외부 서버로 보내지 않는 '제로 콘텐츠' 설계를 통해 중소기업 보안 우려와 서버 비용 부담을 동시에 해결했다. 협회는 오는 4월부터 이 서비스를 전면 무료 개방해 국내 AI 생태계 전반 안전망을 구축할 계획이다.

생성AI스타트업협회에서 이번 프로젝트를 총괄한 민경웅 스냅태그 대표는 "AI 규제 환경에서 중요한 것은 선언이 아니라 즉시 적용 가능한 기술"이라며 "K-세이프 공개 API는 비용·인프라·보안 리스크 없이 즉시 확인 가능한 AI 신뢰 인프라를 제공하겠다"고 말했다.

"AI 기본법 시행, 끝이 아닌 시작"…민관 협력 통한 세부 확립 과제

AI 산업계가 기술적 대응에 사활을 걸고 있다면 협단체는 법안의 제도적 정교함을 요구하고 있다. 한국인공지능법학회는 작년 12월 'AI 기본법 개정연구위원회 개정제안서'를 발표하고 국회에 전달했다.

학계·법조계·산업계·연구기관 등 각 분야 전문가 50여 명이 모인 개정연구위원회의 AI 기본법 제안서에 따르면 고영향 AI 개념 정의 정비, 적용 제외 규정 확대, 사업자 책무 범위 합리화, 과태료 규정의 3년 유예 등이 포함됐다.

최경진 한국인공지능법학회 회장은 AI 기본법 개정제안서에서 "높은 규제 자체보다 더 위험한 것은 무엇이 허용되고 금지되는지 알 수 없는 불명확한 규제"라며 "AI 기본법 역시 제정 과정의 어려움과 시간적 제약 속에서 일부 핵심 개념과 규제 구조가 충분히 다듬어지지 못한 채 남아 있다"고 지적했다.

최 회장은 'AI와 AI 시스템 정의', 'AI 시스템과 구분되는 AI 모델 규율', '고영향 AI 범위', 'AI 사업자와 책임 주체의 구분', '제 34조를 비롯한 여러 의무 조항과 조사·제재 규정을 기반으로 하는 규제 체계', '혁신을 뒷받침하기 위한 특례와 규제 샌드박스 체계' 등을 AI 기본법 내 개선이 필요한 대표 요소로 뽑았다.

또 AI 기본법 개정연구위원회는 위반행위 사실조사 후 시정명령을 먼저 부과하고, 시정명령 위반 시에만 과태료를 부과하는 2단계 제재 방식으로 전환할 것을 제안했다. 학습용 데이터 확보를 위한 공공 데이터 개방 특례와 면책 조항 신설 등 AI 산업 진흥을 위한 장치가 보강돼야 한다는 목소리도 담았다.