일반인이 허위정보 인플루언서 되는 이유…생성형 AI 때문?

케임브리지 대학교에서 발표한 보고서에 따르면 허위정보 확산에 있어 생성형 인공지능(Generative AI, 이하 GenAI)이 중요한 역할을 하고 있으며, 경제적 동기가 이를 가속화하고 있다. 연구진은 브라질과 미국에서 15개월간 진행된 민족지학적 연구를 통해 일상적인 사용자들이 어떻게 GenAI를 활용해 허위정보를 생성하고 확산하는지를 심층 분석했다. 이 보고서는 허위정보 제작자들의 경제적 동기와 GenAI 사용 전략을 체계적으로 정리하며, 기존의 허위정보 연구와는 다른 중요한 통찰을 제공한다.

허위정보 제작의 경제적 동기는 "인플루언서 백만장자" 신드롬

보고서에 따르면, 허위정보 제작자들이 GenAI를 활용하는 가장 큰 이유는 경제적 이익이다. 많은 참가자들은 "누구나 콘텐츠 제작을 통해 부자가 될 수 있다"는 믿음을 가지고 GenAI를 통해 콘텐츠를 대량으로 제작하고 있었다. 13~26세 응답자의 57%가 인플루언서가 되고 싶다고 답했고, 50%는 수익이 보장된다면 현재 직업을 그만두겠다고 답했다. 특히, 생성형 AI는 글쓰기나 영상 편집 기술이 부족한 사람들도 콘텐츠를 대량으로 제작할 수 있도록 돕는다.

이들은 허위정보의 진실성보다 콘텐츠가 바이럴될 가능성에 더 집중하며, 그 결과 허위정보의 품질보다는 양적인 측면이 강화된다. 브라질의 한 참가자는 2022년 브라질 대선 당시 정치적 허위정보를 담은 콘텐츠를 제작해 TikTok에서 수백만 회의 조회수를 기록했다. 이 참가자는 "돈을 벌기 위한 가장 빠른 방법은 유튜브에 동영상을 올리는 것"이라며, 정치적 신념보다는 경제적 동기에 의해 콘텐츠를 제작했다고 밝혔다.

허위정보의 민주화, 누구나 콘텐츠 제작자가 될 수 있는 시대

보고서에 따르면, GenAI는 허위정보 제작의 진입 장벽을 낮추고 누구나 콘텐츠 제작자가 될 수 있는 환경을 조성했다. 기술적 지식이 부족한 일반 사용자들도 AI 도구를 활용해 고품질 콘텐츠를 제작할 수 있게 되면서 허위정보 확산이 더욱 가속화되고 있다. 조사된 사례에 따르면, 정치적 패러디 영상이나 건강 관련 허위정보 영상이 수백만 회 조회수를 기록하며 확산되었다. 특히, AI를 활용해 기존 콘텐츠를 재가공하거나 새로운 콘텐츠로 포장하여 여러 플랫폼에 적응시키는 방식이 일반화되고 있다.

미국의 한 참가자는 MidJourney와 같은 이미지 생성 도구를 활용해 유명 인사들의 사진을 조작하고, 이를 TikTok과 YouTube에 게시해 대중의 관심을 끌었다. 또 다른 참가자는 AI 음성 합성 도구를 사용해 정치인들의 발언을 왜곡하여 허위정보를 담은 영상을 제작했다.

허위정보 크리에이터의 마케팅 전략: '신뢰와 권위'를 가장하다

허위정보 제작자들은 AI를 활용하여 자신을 전문가로 포장하고, 신뢰를 쌓기 위한 다양한 마케팅 기법을 사용한다. 보고서는 이들이 인플루언서 마케팅 전략을 적극 활용하며, 콘텐츠의 진실성 여부와 관계없이 팔로워와의 관계를 심화시키는 데 주력한다고 설명했다. AI는 이러한 작업을 자동화하고 개인화하여 더욱 효율적으로 수행할 수 있게 한다. 크리에이터들은 AI 도구를 사용해 자신만의 목소리를 유지하면서도 대규모 콘텐츠를 자동으로 생산하고 재배포하고 있다.

허위정보 제작과의 전쟁: 플랫폼의 대응과 과제

허위정보 크리에이터들이 AI로 생성한 콘텐츠를 플랫폼이 효과적으로 규제하기 어려운 이유 중 하나는 크리에이터들이 허위정보 감시 체계를 회피하는 방법을 끊임없이 학습하기 때문이다. 플랫폼이 생성형 AI 콘텐츠에 라벨을 부착하려는 시도는 있었지만, 많은 크리에이터들은 이러한 라벨이 자신의 수익에 악영향을 미칠 수 있다는 우려 때문에 자발적으로 이를 적용하지 않고 있다. 참가자들은 AI 라벨이 정치적으로 중립적이라고 인식했으며, 이는 일반적인 팩트체크 라벨과는 달리 더 높은 신뢰를 얻고 있는 것으로 나타났다.

반면, 일반 사용자들은 AI가 생성한 콘텐츠인지 여부를 알 수 있는 투명성을 강하게 요구하고 있다. 연구진은 AI 라벨링이 허위정보 공유를 줄이는 데 효과적일 수 있다고 제안하며, 추가적인 연구가 필요하다고 주장했다.

새로운 허위정보 시대, 생성형 AI의 역할