'AI 전쟁 영상' 표시 안하면 수익 끊는다…X, 특단 조치 내린 이유는

전쟁 상황 허위 정보 확산 우려…AI 콘텐츠 표시 의무 강화

테슬라 창업자 일론 머스크가 인수한 X(옛 트위터)가 인공지능(AI)으로 생성된 무력 충돌 영상임을 표시하지 않고 게시하는 크리에이터에 대해 제재를 가한다.

3일(현지시간) 테크크런치에 따르면 니키타 비어 X 제품 총괄은 이 같은 방식으로 AI 기술을 사용해 사람들을 오도하는 이용자는 회사의 '크리에이터 수익 공유 프로그램(Creator Revenue Sharing Program)'을 3개월(90일) 동안 정지시킬 것이라고 발표했다. 정지 기간이 끝난 뒤에도 오해를 유발하는 AI 콘텐츠를 계속 게시할 경우 해당 크리에이터는 프로그램에서 영구적으로 제외된다.

비어 총괄은 X를 통해 "전쟁 상황에서는 사람들이 현장의 진짜 정보에 접근할 수 있는 것이 매우 중요하다"며 "오늘날의 AI 기술로는 사람들을 오도할 수 있는 콘텐츠를 만드는 것이 매우 쉬워졌다"고 주장했다. 그러면서 "지금부터 무력 충돌을 다룬 AI 생성 영상을 게시하면서 AI로 제작됐다는 표시를 하지 않은 사용자는 크리에이터 수익 공유 프로그램에서 90일 동안 정지된다"고 덧붙였다.

일론 머스크 테슬라 CEO (사진=테슬라X)

X는 이러한 오해 소지가 있는 게시물을 식별하기 위해 생성형 AI 콘텐츠 탐지 도구와 함께 크라우드소싱 기반 사실 검증 시스템인 '커뮤니티 노트'를 활용키로 했다.

X의 크리에이터 수익 공유 프로그램은 크리에이터가 플랫폼에 게시물을 올리고 게시물이 인기를 얻으면 광고 수익을 공유받아 수익을 창출할 수 있도록 하는 제도다. 이 프로그램은 X에서 참여도가 높은 콘텐츠를 늘리기 위해 설계됐지만, 일각에선 클릭베이트나 분노를 유발하는 게시물 같은 자극적인 콘텐츠를 올리도록 유도하는 구조라고 지적했다. 또 콘텐츠 관리 기준이 느슨하고 프로그램 참여 조건으로 유료 X 구독자가 되어야 한다는 점도 비판을 받아왔다.

테크크런치는 "AI가 오해를 불러일으킬 수 있는 사진과 영상을 매우 쉽게 만들 수 있다는 점을 고려하면, 이러한 콘텐츠에 대해 금전적 보상을 금지하는 조치는 제한적인 해결책에 불과하다"며 "전쟁 상황이 아닌 경우에도 AI 미디어는 정치적 허위 정보 확산이나 인플루언서 경제에서의 기만적인 제품 홍보 등에 사용되는 경우가 많지만, 새 정책에서도 이러한 콘텐츠는 여전히 허용된다"고 지적했다.