[디엘지 law 인사이트] 콘텐츠 제작과 인공지능 기본법

생성형 AI 서비스 시 고지 및 표시의무 이행을 준비해야

다양한 산업에 인공지능(AI)이 빠른 속도로 도입되고 있다. 콘텐츠 산업도 예외는 아니다. 네이버웹툰은 2023년 이미 작가들의 창작활동을 지원하기 위한 AI 제작툴을 개발이라고 발표했고, 크래프톤은 얼마 전 에이전틱 AI를 중심으로 업무를 자동화하는 AI퍼스트(AI FIRST) 기업으로의 전환을 선언했다. 애니메이션, 게임, 영화 등 대규모 제작인력과 자본 투입을 필요로 하는 콘텐츠 분야야 말로 인공지능으로 최대 발전을 이룰 수 있는 산업분야가 아닐까 한다.

대기업부터 스타트업까지 다양한 콘텐츠 사업자들이 각종 콘텐츠 제작용 생성형

생성형 인공지능(Generative AI) 서비스를 개시하거나 준비하고 있는 상황에서, 정부도 지난달 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(이하 ‘인공지능기본법’)'의 하위법령을 발표하고 현재 의견 수렴을 거치고 있다. 인공지능기본법은 내년 1월 22일 시행을 앞두고 있으며, 특별한 사정이 없는 한 현재의 시행령, 고시, 가이드라인이 그대로 반영될 가능성이 높아 보인다. 이 점을 고려해 콘텐츠 제작을 위한 생성형 AI를 서비스하는 사업자들은 인공지능기본법 및 하위법령(안)에 맞춰 서비스 업데이트를 준비할 필요가 있다.

먼저 콘텐츠 제작용 생성형 AI 서비스 사업자는 해당 서비스가 AI에 기반한 서비스임을 사전에 고지할 의무를 부담한다. 이러한 고지는 이용약관에 서비스가 AI에 기반했음을 명시한 조항을 기재하는 방식으로도 가능하고, 서비스 화면에 명시하는 것도 유효하다. 이용자와 별도로 서비스 이용계약을 체결하는 경우, 해당 계약서에 기재할 수도 있다. 사업자가 이러한 의무를 이행하지 않는 경우에는 3천만 원 이하의 과태료가 부과될 수 있다.

황혜진 법무법인 디엘지 변호사

다음으로 콘텐츠 제작용 생성형 AI 서비스 사업자는 생성형 AI를 이용한 결과물, 즉 AI 산출물에 생성형 AI에 의해 생성됐다는 사실을 표시해야 한다. 결과물이 웹툰, 영화, 애니메이션 같은 이미지나 영상 콘텐츠인 경우, 로고나 텍스트 등 가시적 워터마크를 직접 표시할 수 있고, 사람의 눈에는 인식되지 않지만 기계가 판독할 수 있는 비가시적 워터마크 기술을 활용할 수도 있다.

영상 콘텐츠의 경우 전체 영상에 표시될 필요는 없고, 1시간 분량의 영상이라면 최초 5초 정도만 표시되어도 무방하다. 오디오 콘텐츠의 경우 콘텐츠 재생 초기에 "본 오디오는 생성형 인공지능에 의해 생성되었습니다"와 같은 문구를 음성 안내로 고지하거나, 비가청 영역에 기술적 워터마크 방식으로 삽입하는 것도 가능하다.

그러나 사람의 신체·목소리 등을 실제와 구별하기 어려울 정도로 모방하거나, 인공물·자연물·자연현상을 실재하는 것으로 오인하게 할 우려가 있는, 이른바 ‘딥페이크’ 콘텐츠의 경우에는 반드시 주된 이용자(생성형 AI 서비스의 이용자)의 연령과 신체적, 사회적 조건을 고려해 시각, 청각 등을 통해 명확히 인식할 수 있는 방법으로 결과물이 AI로 생성했음을 표시해야 한다.

관련해 가이드라인(안)은 두 개의 태양이 하늘에 떠있는 장면처럼 공지의 사실로 불가능한 자연현상에 관한 것, 가상임이 명확한 배경(우주, 화성), 만화, 조작용 게임은 딥페이크에 해당하지 않는다고 규정한다. 그러나 콘텐츠 제작용 생성형 AI 사업자로서는 결과물을 산출하는 과정에서 결과물이 딥페이크인지 아닌지 정확하게 구분하기 어렵기 때문에 모든 결과물에 대해 가시적인 방법으로 표시를 한 결과물을 제공하는 것이 안전할 수 있다.

이 점과 관련해 콘텐츠는 본래 예술이나 오락으로 향유해야 하는 것인데, 이러한 표시가 콘텐츠에 대한 감상이나 이용경험을 저해하지 않을까 하는 우려가 있을 수 있다. 인공지능기본법도 이 점을 고려해 미술, 영화, 문학, 게임, 애니메이션 등 창의적 표현의 결과물에 대해서는 콘텐츠 도입부에 5초간 표시하거나, 엔딩크레딧에 이를 명시하는 방법을 통해 이를 이행할 수 있는 것으로 규정하고 있다.

위에서 설명한 각 표시의무를 이행하지 않는 경우에는 사실조사 및 시정명령의 대상이 될 수 있다. 시정명령을 불이행할 경우 3천만 원 이하의 과태료가 추가로 부과될 수 있는 점을 유념해야 한다.

한편 인공지능기본법 시행령(안)은 이용자 화면에 표시된 문구 등을 고려할 때 생성형 인공지능 기반 운용 사실이 명백한 경우, 위 각 고지의무 및 표시의무를 이행하지 않아도 된다고 규정하고 있다. 예를 들어 서비스 초기화면에서 해당 AI가 생성형 인공지능에 기반함을 명확히 표시하는 경우, 추가적인 결과물 표시의무가 면제될 여지가 있다. 다만, 위 시행령 조항이 그대로 확정될 것인지 지켜볼 필요가 있으며, 실무적으로 ‘생성형 인공지능 기반 운영 사실을 명백하게 표시한 경우’가 어떤 경우인지에 대한 감독기관의 판단을 지켜볼 필요가 있다.

마지막으로 인공지능시스템의 학습에 사용된 누적 연산량이 10의 26승 부동소수점연산 이상인 경우로서, 현재 인공지능시스템에 활용되는 인공지능기술 중 최첨단의 인공지능기술을 적용하고 있으면서, 동시에 인공지능시스템이 사람의 생명, 신체의 안전 및 기본권에 광범위하고 중대한 영향을 미칠 우려가 있는 경우에 인공지능사업자는 위험 식별, 제거∙완화 조치, 모니터링 등의 안전성 확보 의무를 부담하게 된다. 다만 현재로서는 콘텐츠 제작용 생성형 AI가 사람의 생명, 신체의 안전 및 기본권에 광범위하면서 중대한 영향을 미친다고 판단될 가능성은 낮아 보인다.

인공지능 기본법은 인공지능사업자를 수범자로 하고, 인공지능서비스의 이용자에게는 적용되지 않기 때문에, 타인이 개발한 AI 제작툴을 이용해 게임을 제작한 개발사나 그 게임을 서비스하는 퍼블리셔 등 생성형 AI가 산출한 결과물을 사업에 이용하는 자는 위와 같은 고지 및 표시의무를 부담하지는 않는다. 다만 결과물을 업로드하는 플랫폼의 이용약관이 이용자에게 AI로 생성된 결과물임을 표시할 의무를 부담시킬 수 있으므로 이 점을 미리 확인할 필요가 있다.

*본 칼럼 내용은 본지 편집방향과 다를 수 있습니다.