챗GPT 답변 노린 '스팸 마케팅' 성행…레딧, AI로 단속한다

브랜드 홍보용 게시물·댓글 탐지 강화…하루 2만5천건 스팸 자동 적발

미국 기술 커뮤니티 레딧이 생성형 인공지능(AI) 검색 최적화를 노린 스팸 마케팅 게시물 차단에 나선다. AI 챗봇 답변에 자사 제품과 브랜드가 노출되도록 조작된 게시물이 늘어나자 자체 AI를 활용해 이를 탐지·제거하는 체계를 강화한다는 목표다.

6일(현지시간) 블룸버그통신에 따르면 레딧은 브랜드들이 인기 AI 챗봇에 인용되기 위해 작성하는 스팸성 게시물과 댓글을 겨냥해 AI 기반 탐지 시스템을 고도화하고 있다. 오픈AI 챗GPT와 구글 제미나이 등 주요 AI 서비스가 레딧 게시글을 답변 생성에 활용하는 데 따른 조치다.

오픈AI와 구글은 레딧과 콘텐츠 사용 계약을 맺고 다양한 게시글과 유저 간 소통 데이터를 AI 서비스에 활용 중이다. 레딧은 유저들이 의견을 자유롭게 공유하는 기술 플랫폼으로 평가받으며 AI 챗봇이 자주 인용하는 정보 출처로 자리잡았다.

(사진=레딧)

레딧에 따르면 이같은 영향력을 노려 기업들이 일반 이용자인 것처럼 게시물과 댓글을 작성하고 AI가 이를 실제 사용자 의견으로 학습하거나 답변을 인용하도록 유도하는 사례가 늘고 있다.

레딧은 자체 AI를 활용해 이러한 스팸성 파케팅을 탐지 중이다. 회사는 올 1분기 하루 평균 2만 5000건의 스팸성 게시물과 댓글을 자동으로 적발했으며 이용자 노출은 전년 동기 대비 20% 감소했다고 밝혔다.

레딧은 계정 생성 단계부터 의심스러운 활동 신호를 분석하고 대규모언어모델(LLM)을 활용해 기존 시스템으로는 찾기 어려웠던 조직적 허위 활동과 인위적인 여론 조성을 식별하고 있다.

이번 조치는 생성형 AI 시대 새로운 마케팅 기법인 '생성형 엔진 최적화(GEO)' 확산과도 맞물린다. 검색엔진최적화(SEO)에서 파생된 개념으로, AI 챗봇 답변에 기업 브랜드가 더 많이 노출되도록 콘텐츠를 설계하는 전략이다. AI 기반 마케팅을 지원하는 스타트업이 늘면서 관련 시장도 빠르게 성장하고 있다.

레딧의 스팸 마케팅 단속은 관련 업계에도 영향을 주고 있다. AI 답변에서 고객사 인용 빈도를 높여주는 서비스를 제공하는 스타트업 리치LLM은 실제로 챗GPT에 인용된 게시물이 레딧에서 삭제되는 사례가 발생했다고 밝혔다. 일부 기업은 특정 분야 주제별 커뮤니티인 서브레딧을 직접 운영하는 방식으로 노출을 늘리고 있지만 계정 정지 위험이 늘어난 것으로 전해졌다.

레딧은 앞으로도 AI를 활용한 스팸 탐지와 커뮤니티 운영진의 관리 체계를 함께 강화해 생성형 AI 시대 정보 신뢰성을 유지한다는 방침이다.

회사는 "계정이 생성되는 순간부터 의심스러운 행위자를 탐지하고 LLM을 활용해 기존 시스템이 놓쳤던 정교한 허위 활동과 인위적인 홍보를 찾아낼 것"이라고 밝혔다.