"지하철서 SNS 보기 겁나요"…AI 광고 점입가경

저렴하고 제작 쉬워 선정적·폭력적 광고↑..."플랫폼 책임 더 키워야"

“최근 유튜브 프리미엄이 만료되면서 요금제 결제 없이 플랫폼을 사용하고 있는데, 인공지능(AI)을 활용해 만든 선정적인 광고를 볼 때마다 놀라요. 그런 광고들이 뜰 때마다 지하철에서 유튜브를 못 보겠어요.”

최근 AI로 만든 광고가 늘면서 사회관계망서비스(SNS)에 지나치게 선정적이거나 잔인한 광고 콘텐츠가 노출돼 이용자 불만이 커지고 있다.

AI로 생성한 인물을 활용하면서 초상권·명예훼손 문제로부터 자유로워져 이전보다 선정적이고 자극적인 광고 제작은 쉬워진 반면, 규제는 현황과 크게 다르지 않은 실정이다. 이런 상황에 전문가들은 플랫폼의 책임이 보다 커져야 한다고 목소리를 높이고 있다.

챗GPT가 만들어준 공공장소에서 AI로 만든 선정적인 광고를 보는 모습

23일 광고정보센터에 따르면 지난해 AI로 제작된 광고는 243편으로 본격적인 대중화 단계에 진입했다. 이는 전년 대비 575% 증가한 수치로, AI 제작 광고 편수는 2023년 8편, 2024년 36편에 불과했다. 전체 광고 제작 편수 대비 AI 광고 비중도 2024년 0.5%에서 지난해 3.1%까지 성장했다.

같은 기간 광고 제작 물량은 디지털·온라인 중심으로 이동하는 흐름을 보였다. TV·극장 제작 편수는 전년(2633편) 대비 71편 감소한 2562편으로 집계된 반면 디지털·온라인 광고는 313편 늘어난 4728편을 기록했다.

자극적인 AI 콘텐츠 범람 는다…왜?

AI 광고가 폭발적으로 성장할 수 있었던 주된 이유는 인력과 시간, 비용 리소스 절감 때문이다. 

AI 광고를 제작해 송출하고 있다고 밝힌 한 이커머스업계 관계자는 “AI 광고를 전문으로 만드는 대행사를 통해 광고 영상을 만든다”며 “이들과 의논해 만든 영상을 자체적으로 검토하면서 정치적인 요소, 선정적이거나 폭력적인 요소들이 있다면 필터링을 한다”고 말했다.

이어 “AI를 활용하면서 확실히 예전보다는 제작 비용 등이 절감된다”며 “똑같은 자원을 투입하면 이전보다 많은 결과물을 뽑아낼 수 있다보니 AI를 활용한 영상 광고 수가 늘었다. 아직 사람 등은 어색한 부분이 있지만 캐릭터 등은 AI를 활용해도 반응이 괜찮다. 피드백 반영 속도 역시 줄었다”고 덧붙였다.

유튜브에 송출되는 AI로 만든 선정적인 광고 영상. (사진=유튜브 캡처 후 모자이크 처리)

AI를 이용해 생성한 인물을 광고에 출현시킬 경우 초상권과 저작권에 크게 구애받지 않는다는 점도 자극적인 콘텐츠 생산을 부추기는 원인으로 꼽힌다. 

김명주 AI안전연구소장은 “광고는 흡입력이 우선이라 윤리적인 부분과 많이 상충된다”고 짚었다.

그러면서 “아무래도 실존 인물을 내세우면 명예훼손 등에 걸릴 여지가 있는데, AI를 이용해 광고를 만들면 저렴하고 효과적으로 제작할 수 있는 방법이 생기기 때문에 이전보다 훨씬 자극적이고 위협적인 광고가 나올 수밖에 없다”고 내다봤다.

연령 정보 없이도 자극적 광고 송출 가능

현재 문제가 되는 것은 지나치게 선정적이고, 폭력적인 광고를 SNS 사용 시 어렵지 않게 살펴볼 수 있다는 점이다. 

예를 들어 연령을 알 수 없도록 로그인을 하지 않고 플랫폼에 접속해도 성적인 행동을 암시하는 모습을 AI가 구현하고, 아래 이를 묘사한 글들을 적어두는 식이다. 이밖에도 피투성이가 된 인물을 AI로 만들어 광고하는 서비스 이용을 유도하는 영상도 있다.

업계에서는 규모가 큰 회사보다는 작은 회사가 자극적인 광고를 집행할 가능성이 높고, 광고를 제작할 때는 플랫폼 정책보다는 송출하는 국가의 정책에 더 신경을 쓴다고 설명한다.

SNS상 광고. (사진=클립아트코리아)

광고 대행사 관계자는 “어느 정도 업력이 있고, 네임밸류가 있는 회사는 AI를 활용한 자극적인 광고 영상 제작 요청은 쉽게 하지 않는다”며 “일례로 한 화장품 회사는 외부로 나가는 콘텐츠의 법적 허용 표현을 까다롭게 본다. 이를 벗어나는 콘텐츠는 절대 컨펌되지 않는다”고 설명했다.

이어 “신생 브랜드나 작은 회사들이 매출을 단기간에 극대화하기 위해 과장이 심한 광고를 직접 돌리는 경우가 있다”면서 “국가별로 주로 쓰는 플랫폼과 이들의 규제에 맞춰 광고를 제작한다. 플랫폼의 규제는 크지 않다고 느껴지고, 해당 규제를 걱정하기보다는 (광고를 송출하는) 국가 규제기관의 법령에 오히려 신경을 쓴다”고 덧붙였다.

차단 광고 올해만 4000여 건…“AI 사용 별도 규제 없어”

국내에서는 방송미디어통신심의위원회에서 SNS 송출되는 AI 광고 영상을 심의하고 있다. 선정적인 콘텐츠는 청소년보호팀에서, 폭력적인 콘텐츠는 유해정보대응팀에서 담당하고 있다. 방미심위에 따르면 올해 1월부터 8월까지 SNS 플랫폼에서 차단된 선정적인 광고는 4000여 건이며, 지난해에는 7906건으로 집계됐다.

현재 방미심위 심의 기준에서 선정적인 광고인지를 판단할 때 AI 광고에 적용되는 별도의 기준이 없다는 점이 한계로 거론된다. 또 방송상에서는 이같은 광고에 대해 과징금 부과가 가능하지만 통신상에서는 접속 차단이 최고 수준의 제재에 불과하다.

제재 기준 역시 선정적인 광고는 음모 혹은 성기가 노출돼야 하고, 폭력적인 콘텐츠는 목이 잘리는 참수 동영상이나 내장이 드러나는 사고, 사람이 죽는 영상에 해당돼야 적용 가능하다.

방미심위 관계자는 “SNS를 통해 (선정적인 광고가) 유통되면 접속 차단을 하거나 성인만 접근할 수 있도록 제한하는 등의 시정 조치를 요구하고 있다”며 “통신상에서 심의에 따른 제재에 과징금 부과는 없다”고 설명했다. 

다만, AI로 광고 영상을 만들었다는 이유만으로 다른 심의 기준을 신설하기는 쉽지 않다는 관측이 나온다.

이에 플랫폼 사업자가 지나치게 선정적이거나 폭력적인 AI 광고가 유통되지 못하도록 가이드라인을 정하고, 책임감 있게 관리해야 할 필요성이 제기되는 상황이다.

현재 페이스북과 인스타그램을 운영하는 메타는 AI 광고 역시 콘텐츠로 규정해 청소년 계정에 노출되는 광고를 13세 이상 영화 등급 기준에 맞췄다.

유튜브는 흥분을 유발하기 위한 자극적인 성행위 장면이 묘사된 텍스트와 이미지, 오디오 또는 동영상 광고에 대해 부적절한 콘텐츠로 분류하고 있다. 또 실제 혹은 모의 상황에서 미성년자가 참여하거나 강제적, 불법적으로 이뤄지는 성행위를 홍보하는 콘텐츠를 제한하고 있다.

이 밖에도 음란하거나 과도한 노출이 포함되도록 AI로 변경하거나 생성된 콘텐츠의 배포를 촉진하는 콘텐츠도 제지하고 있다. 이에 위반될 경우 구글은 사전 경고 없이 구글 애즈 계정을 정지하며 해당 광고주가 다시는 광고를 운영할 수 없도록 하고 있다.

김 소장은 "광고표시법 등 현행법 안에서 풀어야한다"며 "별도의 AI 광고 규정을 만들지는 못할 것"이라고 말했다. 또 "광고 가이드라인 등을 정립해 결국 광고를 싣고 있는 플랫폼 사업자에게 압박을 넣어야 한다"고 부연했다.