"자녀 계정 확실하게 관리 가능"...틱톡, AI 기반 신뢰·안전 기능 강화

청소년 보호·AI 안전성·크리에이터 권한·디지털 웰빙에 집중 강조

"사용자가 안전하다고 느낄 때 창의성은 비로소 발휘될 수 있다."

틱톡이 플랫폼의 신뢰와 안전을 강화하기 위한 최신 정책을 대거 공개했다. 30일 온라인으로 진행된 간담회에서 틱톡 글로벌 신뢰 및 안전 총괄 아담 프레서는 AI 기술을 중심으로 한 플랫폼 보호 기능을 소개하며 ‘안전 기반 창의 플랫폼’ 전략에 초점을 맞췄다고 강조했다. 

이번 발표는 ▲청소년 보호, ▲크리에이터 권한 강화, ▲커뮤니티 웰빙, ▲정보 무결성 등을 담고 있다. 

AI 기반 콘텐츠 관리, 청소년 안전 기능도 강화 

틱톡은 현재 커뮤니티 가이드라인 위반 콘텐츠의 85% 이상을 AI를 통해 자동 감지하고 있으며, 그중 90%는 사전 차단에 성공하고 있다고 밝혔다. 최근에는 대형 언어모델(LLM)을 활용한 댓글 필터링 시범 사업도 진행 중이다.

아담 프레서는 “AI 기술로 유해 콘텐츠 노출을 줄이는 동시에, 직원들이 직접 심사해야 하는 그래픽 콘텐츠 비율도 60%가량 줄었다”며 “기술이 직원 보호와 이용자 보호를 동시에 가능하게 하고 있다”고 강조했다.

청소년 보호를 위한 기능도 한층 강화됐다. 틱톡은 10대 계정에 기본 탑재되는 50개 이상의 보호 기능 외에도, 부모가 자녀 계정과 연동해 활동을 모니터링할 수 있는 ‘세이프티 페어링’ 기능을 개선했다.

틱톡 세이프티 페어링 기능 소개

이번 업데이트로 부모는 자녀가 공개 게시한 영상, 설정한 주제 관심사, 차단한 계정, 신고한 콘텐츠 여부 등을 확인할 수 있게 됐다. 일부 국가에서는 부모가 특정 계정과 자녀의 상호작용을 직접 차단할 수 있는 기능도 도입됐다. 예를 들어 청소년 자녀가 전체 공개 설정으로 게시물을 업로드 했을 때, 부모가 즉시 알람을 받아 검토할 수 있다는 설명이다. 

아울러 틱톡은 전 세계 청소년 대표 15명과 함께 ‘글로벌 청소년 위원회’를 구성해, 청소년의 관점을 반영한 기능 개선에도 나서고 있다.

틱톡 아담 프레서 신뢰-안전 총괄

크리에이터 케어 모드·인박스 등 권한과 보호 동시 강화

크리에이터 보호와 성장을 위한 기능도 대폭 확대됐다. 새롭게 선보인 ‘크리에이터 케어 모드’는 신고되거나 삭제된 적 있는 댓글, 공격적인 표현을 자동 필터링하며, 반복적으로 삭제한 댓글 유형은 향후 노출 빈도를 낮춘다.

‘크리에이터 인박스’는 수백에서 수천 건의 메시지를 받는 크리에이터를 위해 도입된 기능으로, 메시지를 중요도에 따라 분류하고 맞춤형 답변을 자동 전송하는 등 소통 효율을 높여준다.

틱톡 라이브 영역에서는 실시간으로 부적절한 댓글을 제어할 수 있도록 크리에이터 또는 관리자가 특정 단어나 이모지를 바로 차단할 수 있는 기능도 추가된다. 이를 통해 크리에이터가 소위 말하는 '찐팬'들과 편하게 소통할 수 있는 기회를 제공하는 것이다. 

틱톡 크리에이터 케어 모드

콘텐츠 사전 점검 기능 도입, 딥페이크·AI 위협도 대응

콘텐츠 노출과 관련한 크리에이터의 불만을 반영해, 틱톡은 ‘콘텐츠 사전 점검(Content Check)’ 기능도 새롭게 도입한다. 이는 콘텐츠가 추천 피드 기준에 부합하는지를 업로드 전에 점검할 수 있는 도구로, 초기에는 웹 기반 ‘틱톡 스튜디오’를 통해 라이트 버전이 제공된다.

틱톡 측은 “사전 점검 도입으로 저품질 콘텐츠 게시가 27% 줄었으며, 향후 모든 커뮤니티 가이드라인 위반 여부까지 사전 확인 가능한 풀 버전도 확대 적용할 예정”이라고 밝혔다.

AI 위협 대응에도 적극적이다. 틱톡은 AI 생성 콘텐츠가 오도된 정보를 담고 있는 경우 삭제 조치하고 있으며, 업계 최초로 콘텐츠 출처와 변경 여부를 확인할 수 있는 C2PA 표준을 동영상 플랫폼에 적용했다.

크리에이터가 AI 콘텐츠임을 명시하지 않더라도, C2PA 기반으로 레이블을 자동 표시해 이용자가 출처를 명확히 인지하도록 돕는다.

틱톡은 신뢰와 안전 분야에 연간 20억 달러 이상을 투자 중이며, 전 세계 수천 명의 콘텐츠 심사 및 안전 인력을 운영하고 있다. 

아담 프레서는 “플랫폼의 안전은 기술과 사람의 협력 없이는 불가능하다”며, “AI는 콘텐츠 선별뿐 아니라 직원 보호, 커뮤니티 건강성 유지에 있어 핵심적인 역할을 한다”고 말했다.

그러면서 “청소년과 보호자, 크리에이터, 전문가와의 긴밀한 대화를 바탕으로 신뢰받는 플랫폼을 만들어가겠다”며 “창의성과 책임이 공존하는 공간을 실현하겠다”고 덧붙였다.