AI가 다 만드는 시대…플랫폼은 왜 다시 '사람' 찾나

유튜브·메타, 대량생산 콘텐츠 노출·수익화 제동...네이버, 창작자에 5년간 1조원 지원

생성형 인공지능(AI)이 콘텐츠 제작 문턱을 낮추면서 역설적으로 온라인 플랫폼에서 '사람' 가치가 높아진다. AI를 활용해 손쉽게 만든 저품질 콘텐츠가 쏟아지자 플랫폼들이 대량생산·반복 콘텐츠 노출과 수익화를 제한하는 동시에 사람이 만든 원본 콘텐츠와 창작자 확보에 공을 들이고 있어서다.

AI를 활용한 콘텐츠 생산이 일상화되면서 플랫폼 고민도 달라지고 있다. 과거에는 더 많은 콘텐츠를 확보하는 것이 중요했다면 이제는 수많은 콘텐츠 가운데 이용자가 믿고 볼 만한 콘텐츠를 어떻게 가려낼지가 새로운 과제가 됐다.

AI로 '찍어내는' 콘텐츠에 제동…유튜브·메타 "원본이 중요"

1일 관련 업계에 따르면 유튜브와 메타, 틱톡, 네이버 등 국내외 주요 플랫폼은 최근 반복·대량생산되거나 독창적인 가치가 부족한 콘텐츠에 대한 대응을 강화하는 중이다. 

'AI 슬롭' 확산 때문이다. AI 슬롭은 생성형 AI를 이용해 대량으로 만들어지는 저품질 콘텐츠를 말한다. 생성형 AI를 활용하면 이미지와 영상, 음성, 글 등을 적은 비용으로 빠르게 만들 수 있지만 비슷한 형식의 콘텐츠를 반복적으로 생산하거나 이용자의 관심을 끌기 위한 저품질 콘텐츠도 함께 늘어나고 있다.

유튜브는 지난해 7월 유튜브 파트너 프로그램(YPP)의 기존 '반복 콘텐츠' 정책 명칭을 '비진정성 콘텐츠'로 변경했다. 반복적이거나 대량생산된 콘텐츠가 수익화 대상이 아니라는 점을 보다 명확하게 하기 위해서다. 유튜브가 수익화 콘텐츠에 요구하는 핵심 기준은 원본성과 진정성이다. 템플릿을 활용해 비슷한 영상을 대량으로 만들거나 영상마다 차이가 거의 없는 콘텐츠 등은 수익화가 어려울 수 있다.

메타 '원본 창작자 우대' 공식 발표·이미지 (사진=메타)

메타도 비슷한 방향으로 움직인다. 메타는 지난 3월 페이스북 피드와 릴스에서 원본 콘텐츠를 우선 노출하고 비원본 콘텐츠의 도달 범위를 줄이는 정책을 발표했다. 다른 사람의 콘텐츠를 그대로 다시 올리거나 자막·테두리를 추가하고 재생 속도를 바꾸는 정도는 비원본 콘텐츠로 판단한다. 반면 다른 사람의 콘텐츠를 활용했더라도 새로운 정보나 분석을 추가하거나 스토리를 실질적으로 개선하면 원본 콘텐츠로 인정할 수 있다.

메타가 실제 사람이 운영하는 계정임을 인증하는 ‘페이스북 베리파이드’ 기능을 도입했다. (사진=메타)

콘텐츠뿐 아니라 계정 뒤에 '실제 사람'이 존재하는지를 확인하는 것도 중요해지고 있다. 메타는 지난 7월 실제 사람이 운영하는 계정이라는 사실을 보여주는 무료 인증 배지 '페이스북 베리파이드'를 공개했다. AI를 이용해 콘텐츠뿐 아니라 프로필과 메시지까지 손쉽게 만들 수 있게 되면서 상대방이 실제 사람이라는 사실을 확인할 수 있는 명확한 신호가 필요해졌다는 설명이다.

틱톡 AI 생성 콘텐츠 라벨 지정 (사진=틱톡 홈페이지)

틱톡 역시 AI 생성 콘텐츠의 투명성을 높이는 데 주력하고 있다. 현실적으로 보이는 AI 생성 콘텐츠에 라벨 표시를 요구하는 동시에 C2PA(콘텐츠 출처 인증 표준) 기반 콘텐츠 자격증명 등을 활용해 AI 콘텐츠를 식별하고 있다. 틱톡에 따르면 현재까지 AI 생성 콘텐츠로 표시된 영상은 30억건을 넘어섰다.

네이버도 AI 양산형 콘텐츠 제동...진정성 본다

국내 플랫폼도 같은 고민에 직면했다. 네이버는 AI를 이용한 저품질·양산형 콘텐츠에 대한 기준을 강화하는 동시에 사람이 만든 양질의 콘텐츠와 창작자에 대한 투자를 확대하고 있다.

네이버는 지난 6월 숏폼 서비스 '클립'의 광고 인센티브 정책을 개편하면서 자체 제작성과 2차 가공 여부뿐 아니라 양산형·AI 콘텐츠에 대한 수익화 인정 기준을 강화했다. 품질이 낮다고 판단되는 콘텐츠에는 광고 인센티브를 지급하지 않는 방식이다.

검색에서도 비슷한 원칙을 적용한다. 네이버는 검색 결과를 점유할 목적으로 동일하거나 유사한 템플릿을 이용해 콘텐츠를 무의미하게 대량 발행하는 행위를 '저품질 콘텐츠 대량 생성'으로 보고 있다. AI나 자동화 프로그램을 활용한 콘텐츠도 이에 포함될 수 있으며 스팸으로 판단되면 검색 결과에서 제외되거나 노출 순위가 낮아질 수 있다.

그러나 네이버 역시 AI 사용 자체를 제재 기준으로 삼지는 않는다. 특정 기술을 사용했다는 사실만으로 저품질 콘텐츠로 판단하지 않는다. AI를 활용하더라도 생성이나 요약에 그치지 않고 작성자의 경험과 관점을 더해 고유한 콘텐츠로 만들어야 한다고 권고하고 있다.

네이버 콘텐츠 작성시 권장 사항 (사진=네이버)

동시에 회사는 사람이 만든 콘텐츠에는 대규모 투자를 시작했다. 네이버는 지난 5월 향후 5년간 콘텐츠 생태계에 1조원을 투자하겠다고 밝혔다. 블로그와 카페, 지식iN, 프리미엄콘텐츠 등 네이버 플랫폼에서 활동하는 창작자의 성장을 지원하고 양질의 사용자 제작 콘텐츠(UGC)를 확대하기 위해서다.

생성형 AI 시대에 사람이 만든 콘텐츠가 AI 서비스의 중요한 '원재료'가 되고 있는 셈이다. AI 검색이 이용자의 질문에 직접 답을 제공하더라도 신뢰할 만한 답변을 만들기 위해서는 결국 양질의 원본 콘텐츠가 지속적으로 생산돼야 하기 때문이다.

네이버가 우수 창작자 발굴에 나선 것도 이와 맞닿아 있다. 블로그·카페·지식iN·프리미엄콘텐츠 등에서 활동하는 우수 창작자를 매월 약 3000명 선정하는 '네이버 메이트'를 운영하고, 이들이 검색과 AI 브리핑 등에서 더 잘 발견될 수 있도록 지원한다. 연간 약 200억원 규모의 활동비도 지급한다.

네이버가 9월 1일 이달의메이트를 발표했다 (사진=네이버)

네이버 관계자는 “직접 경험하고 시행착오를 거쳐 작성한 콘텐츠가 잘 발견될 수 있도록 알고리즘을 고도화하고, 네이버 메이트와 UGC 수익화 프로그램 등을 통해 양질의 콘텐츠를 만들 동기를 제공하고 있다”며 “단순히 콘텐츠를 양산하기보다 정보성 콘텐츠를 활성화하고, 댓글을 통한 소통 등 네이버만의 UGC 특성을 살리는 것이 목적”이라고 말했다.

이어 “AI를 배제한다기보다 적극적으로 활용하되, 결국 내가 직접 겪은 경험은 AI가 대체할 수 없다는 인식이 창작자들 사이에서도 생기고 있다”며 “예를 들어 패션 블로그라면 실제 사람이 옷을 입어보고 핏이나 느낌을 기록하는 것은 AI가 대신하기 어려운 차별화된 콘텐츠”라고 말했다. 그러면서 “창작자들도 ‘나만이 할 수 있는 콘텐츠가 무엇일까’를 고민하기 시작했다”고 덧붙였다.

네이버 메이트 도입 이후 창작자들의 반응도 달라지고 있다는 설명이다. 이 관계자는 “어떻게 하면 메이트로 선정될 수 있는지, 어떤 콘텐츠를 만들어야 하는지 묻는 창작자들이 늘면서 특정 전문 분야를 깊이 있게 다루려는 분위기가 형성되고 있다”며 “스페셜 메이트로 선정된 창작자들을 만나보면 ‘내 콘텐츠를 인정받은 기분’이라는 반응과 함께 AI 시대에 앞으로 어떤 콘텐츠를 만들어야 할지 고민하는 계기가 됐다는 이야기도 나온다”고 부연했다. 

메이트에게 별도의 배지를 부여하는 것도 같은 맥락이다. 그는 “이용자 입장에서는 수많은 콘텐츠 가운데 무엇을 선택해 봐야 할지 판단하기 어려울 수 있다”며 “메이트 배지는 양질의 콘텐츠와 창작자를 알아볼 수 있도록 하나의 신호를 제공하려는 취지”라고 설명했다.