인공지능(AI) 기본법이 올해 초 시행된 이후 최소 1년간의 계도기간에 제도 개선 논의가 이어지면서 현행법의 책임 구조와 AI 생성물 표시 방식을 재정비해야 한다는 전문가 제언이 나왔다. AI 개발·운영 주체별 역할에 맞춰 의무를 조정하고 생성 콘텐츠의 출처를 기술적으로 검증할 수 있는 체계를 마련해야 한다는 지적이다.
20일 한국인공지능산업협회(AIIA)가 서울 서초구 엘타워에서 개최한 제63회 AIIA(AI Is Anywhere) 조찬포럼에서 박상철 서울대 법학전문대학원 부교수와 김동화 마크애니 상무는 AI 기본법의 입법 쟁점과 생성형 AI 콘텐츠의 신뢰성 확보 방안을 각각 발표했다.
박상철 교수는 고영향 AI 규제에서 의무를 부담하는 사업자와 실제 시스템 운영 주체가 일치하지 않는 문제를 지적했다. AI 시스템을 공공기관에 공급하는 스타트업이 영향평가나 AI 활용 사실 고지 의무를 부담할 수 있지만 운영기관을 대신해 이를 수행하기는 어려워서다.
박 교수는 "AI 시스템을 공급하는 사업자가 운영기관을 대신해 영향평가를 하거나 운영 사실을 고지할 수는 없다"며 "그렇다고 운영자에게 의무를 모두 넘기면 AI를 활용하는 전 산업에 지나친 규제가 될 수 있어 고민이 필요하다"고 말했다.
AI 생성 콘텐츠의 표시 의무도 개선 과제로 꼽았다. 가시적 워터마크는 이미지 편집으로 쉽게 제거할 수 있어 실효성이 떨어지는 만큼 비가시 워터마크나 메타데이터를 활용하고 플랫폼의 탐지·표시 기능을 지원해야 한다는 주장이다.
박 교수는 "기본적으로 모든 사업자가 비가시적 워터마크나 메타데이터를 중심으로 해야 한다는 데 공감대가 있다"며 "플랫폼들이 이를 탐지하거나 표시하도록 지원하는 부분도 맞물려 돌아가야 한다"고 밝혔다.
다만 AI 생성물을 유포하는 주체의 표시 의무를 어디까지 확대할지는 신중하게 검토해야 한다고 강조했다. 성범죄나 소비자·투자자 기만 등 위험성이 높은 분야에 집중할지, AI 생성물 전반으로 확대할지 사회적 합의가 필요하다는 설명이다.
김동화 상무도 현행 AI 생성물 표시 방식의 기술적 한계를 지적하며 콘텐츠 출처 증명 체계의 보완을 주문했다. AI 생성 여부를 사후에 탐지하기보다 생성 단계부터 출처 정보를 기록해야 한다는 것이다.
김 상무는 "현재 가장 큰 문제는 텍스트 한 줄로 누구나 콘텐츠 생성이 가능하다는 것"이라며 "기존에는 조작이 발생한 다음 대응에 집중했다면 처음 만들 때부터 정보를 넣어 증명하는 쪽으로 바뀌었다"고 말했다.
대안으로는 C2PA와 비가시 워터마크의 결합을 제시했다. C2PA는 콘텐츠의 생성 주체와 제작·수정 이력을 기록해 출처와 진본성을 검증하는 공통 기술 규격이다. 유통 과정에서 C2PA 메타데이터가 삭제되더라도 콘텐츠 내부에 남긴 비가시 워터마크로 출처 추적을 보완할 수 있다.
관련기사
- AI 영상, 겉만 봐선 모른다…내용까지 읽는 AI 각광2026.10.12
- 최 고 마크애니 대표 "AI 콘텐츠 워터마크, 국제 규격 C2PA로 가야"2026.02.25
- 마크애니-한국인공지능산업협회, AI 콘텐츠 신뢰성 확보 협력2026.06.07
- 한국인공지능산업협회, AI 안전·신뢰 표준화 포럼 출범…실행 기준 만든다2026.04.24
김 상무는 유럽연합(EU) AI법(AI Act)과 비교해 국내 AI 기본법에서도 기계가 판독할 수 있는 출처 표시 기술의 활용을 뒷받침할 필요가 있다고 제안했다. 출처 검증 대상 역시 이미지·영상뿐 아니라 PDF 등 문서까지 확대해야 한다고 강조했다.
김 상무는 "콘텐츠 신뢰는 탐지가 아니라 증명의 문제"라며 "C2PA와 워터마크는 함께 갈 때 완성될 수 있고 기업들은 규제보다 더 빨리 준비해야 한다"고 말했다.
