사람 밀어낸 홈쇼핑 'AI 쇼호스트', 방송 사고 책임은 누가?

생성형 인공지능(AI)이 홈쇼핑 방송 제작 전반으로 확산되면서 주요 홈쇼핑 업체들이 자체 제작 가이드라인과 심의 체계를 마련하고 있다. 상품 정보 왜곡이나 소비자 오인을 막기 위해 AI 활용 범위를 제한하는 한편, 제작 효율을 높이고 비용을 절감하기 위한 도구로 AI 활용을 확대하는 모습이다.

29일 관련업계에 따르면 GS샵과 롯데홈쇼핑은 AI 콘텐츠 제작 가이드라인을 마련해 운영 중이며, NS홈쇼핑은 AI 쇼호스트와 배경 제작 등으로 활용 범위를 넓혀가고 있다.

홈쇼핑업계, AI 활용 확대…"상품은 실물 기반"

GS샵은 지난 5월 'AI 콘텐츠 제작 가이드'를 수립해 전체 PD와 영상 콘텐츠 제작 실무자에게 공유했다. 홈쇼핑 방송과 디지털 콘텐츠 제작 과정에서 AI 활용이 늘어나는 가운데, 상품 정보 왜곡과 과장 표현을 방지하고 방송심의 및 표시·광고 관련 법규를 준수하기 위해서다.

가이드의 핵심 원칙은 '실물은 지키고 이해는 돕는다'이다. 상품의 외형과 기능, 성능, 사용 결과 등 구매 결정에 직접 영향을 미치는 정보는 반드시 실물을 기반으로 제작하도록 했다. 반면 사용 방법을 설명하거나 배경을 연출하는 영상, 브랜드 캠페인 등 상품의 실체를 훼손하지 않는 범위에서는 AI 활용을 허용했다.

실제 존재하지 않는 사용 결과나 후기, 체험담을 생성하거나 상품의 효능·효과를 과장하는 콘텐츠는 제작을 금지했다. GS샵은 제작 가이드와 함께 매주 'AI 영상 콘텐츠 심의 시사회'를 열어 심의팀과 PD 등이 상품 정보의 정확성과 고객 오인 가능성, 방송심의 리스크 등을 사전에 점검하고 있다. 앞서 AI로 생성한 이미지를 활용한 방송에서는 '실제 사람이 아닌 생성형 AI 이미지'라는 사실을 자막으로 고지하기도 했다.

롯데홈쇼핑 역시 내부 AI 콘텐츠 제작 가이드라인을 운영하고 있다. 미디어월과 방송 CG, 사전 제작 영상, 오디오 등 다양한 영역에서 AI를 활용하지만 상품의 효능·효과를 과장하거나 소비자의 오인을 유발할 수 있는 표현은 금지하고 있다.

또한 사실 왜곡과 허위 표현, 초상권 및 저작권 침해 요소를 제한하고, 방송 제작 전 사전 심의와 검수 절차를 운영하고 있다. 제작자와 심의 담당자를 대상으로 정기 교육도 실시하며, 다이어트 식품의 경우 AI를 활용한 비포·애프터 연출이나 특정 신체를 부정적으로 묘사하는 표현도 제한하고 있다.

NS홈쇼핑은 AI를 쇼호스트와 배경 제작 등에 활용하면서도 실제 판매하는 상품은 직접 촬영하는 원칙을 유지하고 있다. 예를 들어 수산물 방송에서는 고등어 등 판매 상품은 실물을 촬영하고, 어시장이나 항구와 같은 배경만 AI로 제작한다. 상품 자체를 AI로 생성할 경우 왜곡이나 과장 가능성이 있을 수 있다는 판단에서다.

회사는 AI 쇼호스트도 적극 도입하고 있다. 다만 AI 쇼호스트임을 명확히 표시해 실제 사람으로 오인하지 않도록 하고 있으며, 멘트 역시 사람이 직접 구성한다.

NS홈쇼핑 관계자는 "AI를 활용하면 로케이션 촬영 비용과 제작 기간을 줄일 수 있어 협력사의 제작 부담을 낮추는 효과도 기대하고 있다"며 "최근 AI 쇼호스트를 활용한 두유 방송을 선보였으며, 향후에는 AI 쇼호스트에 고유한 페르소나를 부여하는 등 활용 범위를 확대할 계획"이라고 설명했다.

AI 활용 확대…심의는 '표현 방식'이 관건

홈쇼핑 업계에서 AI 활용은 빠르게 늘고 있지만 관련 제도는 아직 초기 단계다. 방송미디어통신심의위원회는 현재 AI 생성 여부와 관계없이 허위·과장·기만 방송 등에 대해서는 기존 '상품소개 및 판매방송 심의에 관한 규정'을 적용하고 있다. AI 콘텐츠에 대한 별도 심의 기준이나 생성 사실 고지 의무는 아직 마련되지 않았다.

실제 AI를 활용한 방송을 둘러싼 심의 사례도 나왔다. 방미심위는 지난달 22일 광고심의소위원회에서 지난해 5월 방송된 GS샵 건강기능식품 판매방송에 대해 행정지도인 권고를 의결했다. 해당 방송은 생성형 AI로 제작한 여성의 복부와 하체 이미지를 활용하면서 "지금 여기서부터 빼야 돼", "끼어요", "더 부해 보이고" 등의 표현을 사용해 특정 신체를 부정적으로 묘사했다는 민원이 제기됐다.