틱톡, AI 스팸 콘텐츠 단속 강화...정치·의료 허위정보 정조준

틱톡이 AI 생성 콘텐츠의 투명성을 강화하고 AI 스팸 콘텐츠 단속을 확대한다. AI 생성 콘텐츠에 대한 이용자 교육을 강화하는 동시에 정치·의료·금융 등 민감한 분야에서 AI 스팸 콘텐츠를 대량 유포하는 계정에 대한 탐지·삭제도 적극 임하겠다는 방침이다.

틱톡은 14일 아시아태평양 지역 온라인 기자간담회를 열고 AI 투명성과 리터러시(AI 이해 역량)를 강화하기 위한 새로운 정책과 기능을 공개했다.

이날 발표를 맡은 톰 바르게세 틱톡 글로벌 공공정책팀 AI 리드는 "AI가 콘텐츠를 만들고 소비하는 과정에서 점점 더 큰 역할을 하면서 이용자에게 맥락, 신뢰, 통제권을 제공하는 것이 중요해졌다"며 "사람들이 AI가 언제 사용됐는지 알고, 무엇을 보고 있는지 이해하며, AI가 자신의 경험에서 어떤 역할을 할지 스스로 선택할 수 있어야 한다"고 말했다.

AI 생성 콘텐츠 30억건 라벨링…"투명성은 시스템에 내재화돼야"

틱톡은 지금까지 30억 개 이상의 AI 생성 콘텐츠에 라벨을 부착했다고 밝혔다. 크리에이터가 직접 AI 사용 사실을 표시하는 기능과 함께 C2PA 기술을 활용한 결과다.

C2PA는 콘텐츠의 생성·편집 이력을 메타데이터로 기록해 AI 생성 여부와 출처를 확인할 수 있도록 하는 개방형 기술 표준이다.

틱톡은 지난해 동영상 플랫폼 가운데 처음으로 C2PA를 도입한 데 이어 최근 C2PA 운영위원회(Steering Committee)에도 합류했다.

바르게세 리드는 "하루 1억 개 이상의 콘텐츠가 업로드되는 만큼 투명성은 개별 판단이나 수작업 검토에 의존해서는 안 된다"며 "콘텐츠를 생성하고 게시하고 소비하는 시스템 자체에 내재화돼야 한다"고 설명했다.

이어 "콘텐츠는 한 플랫폼에서 제작된 뒤 다른 곳에서 편집되고 재게시될 수 있다"며 "특정 플랫폼의 라벨이나 정책만으로는 한계가 있기 때문에 플랫폼을 넘어 작동하는 공통 기술 표준이 필요하다"고 덧붙였다.

AI 교육도 강화…리터러시 펀드 400만달러 확대

틱톡은 AI에 대한 이용자 이해도를 높이기 위한 투자도 확대한다.

이날 틱톡은 지난해 11월 출범한 AI 리터러시 펀드(AI Literacy Fund) 규모를 기존 200만 달러(약 29억8300만원)에서 400만 달러(약 59억6500만원)로 두 배 확대한다고 밝혔다.

해당 펀드는 AI 교육 콘텐츠를 제작하는 전문기관을 지원하는 프로그램이다. 케냐 디지털 미디어 기업 '엔토토 뉴스' 등도 지원 대상에 포함됐다.

틱톡에 따르면 펀드 출범 이후 AI 전문가들이 제작한 교육 콘텐츠 누적 조회수는 2억 회를 넘어섰다.

또한 앱 내에는 'AI 리터러시 허브(AI Literacy Hub)'를 신설해 AI 활용법과 AI 생성 콘텐츠를 올바르게 이해하는 방법을 제공할 예정이다.

바르게세 리드는 "AI 리터러시는 정책 보고서에만 있어서는 안 된다"며 "사람들이 실제 AI 생성 콘텐츠를 접하는 공간에서 교육이 이뤄져야 한다"고 말했다.

정치·의료 AI 스팸 계정 집중 단속...AI 미표시 콘텐츠 위험도 따라 차등 대응

틱톡은 AI를 활용한 창작 활동과 AI 스팸 콘텐츠는 명확히 구분해 대응하겠다는 방침도 밝혔다. 틱톡은 올해 1분기에만 8천600만 개의 가짜 계정을 삭제한 바 있다.

회사는 향후 몇 주 안에 새로운 탐지 시스템을 도입해 정치·시사, 금융 조언, 의료 정보, 역사적 참사 등 공공 신뢰를 훼손하거나 안전·건강에 위험을 초래할 수 있는 분야에서 스팸성 AI 콘텐츠를 반복 게시하는 계정을 집중적으로 적발·삭제할 계획이다.

바르게세 리드는 "AI를 활용해 독창적인 아이디어를 구현하는 창작자와 가치가 낮거나 오해를 유발하는 AI 생성 콘텐츠를 대량 게시하는 계정은 분명히 다르다"며 "AI 스팸 콘텐츠를 전문적으로 게시하는 계정을 찾아 제거하기 위한 향상된 탐지 시스템을 시험하고 있다"고 말했다.

또한 틱톡은 AI 생성 사실을 표시하지 않은 콘텐츠에 대해서도 위험도에 따라 대응 방식을 달리 적용할 계획이다.

바르게세 리드는 "현실적으로 보이는 AI 생성 콘텐츠는 반드시 표시하도록 요구하고 있다"며 "AI 생성 콘텐츠인데 라벨이 없으면 탐지 시스템이 이를 식별해 직접 AI 라벨을 추가할 수 있다"고 강조했다.