"안전 기능 켰는데 작동 안 했다"…틱톡, 이용자 수천 명 대상 실험 의혹

미 뉴욕주 소송서 플라시보 실험 지적

틱톡이 청소년과 어린이를 포함한 수천 명을 대상으로 실제로 작동하지 않는 안전 기능을 제공하고 실험했다는 의혹이 제기됐다. 이용자들은 원치 않는 콘텐츠를 피하기 위해 추천 알고리즘을 초기화했다고 생각했지만, 일부에게는 해당 기능이 작동하지 않았다는 주장이다.

특히 틱톡이 기능 작동 여부에 따른 이용자 체류시간과 광고 수익 변화를 비교했다는 내용이 미국 뉴욕주 소송 서류에 포함되면서, 이용자 보호를 위한 안전장치마저 수익성 실험에 활용한 것 아니냐는 논란이 일고 있다.

최근 로이터통신에 따르면 미국 뉴욕주 검찰총장실은 얼마전 공개된 틱톡 상대 소송 서류에서 회사가 2023년 청소년과 어린이를 포함한 수천 명을 대상으로 이른바 '플라시보(위약) 실험'을 반복적으로 진행했다고 주장했다.

싱가포르 틱톡 아시아태평양 본사 (사진=지디넷코리아)

문제가 된 기능은 '알고리즘 새로고침(Algo Refresh)'이다. 이용자가 원하지 않는 콘텐츠를 계속 추천받을 경우 기존 추천 기록을 초기화하고 새로운 콘텐츠를 추천받을 수 있도록 마련된 기능이다.

그러나 소송 서류에 따르면 틱톡은 일부 이용자에게 실제로 작동하지 않는 기능을 제공하면서 정상적으로 실행된 것처럼 표시했다. 이용자들은 추천 알고리즘이 초기화됐다고 생각했지만, 실제 추천 피드에는 변화가 없었다는 것이다.

반면 다른 실험 참가자에게는 정상적으로 작동하는 기능이 제공됐다. 뉴욕주 측은 틱톡이 두 집단을 비교해 이용자 체류시간과 광고 수익에 미치는 영향을 분석했다고 주장했다.

내부 직원도 우려 제기…안전 기능 실험 반복

틱톡 내부에서도 실험 방식이 부적절하다는 문제 제기가 있었던 것으로 전해졌다.

소송 서류에 따르면 틱톡 디지털 웰빙 부문 제품 관리자는 내부 대화에서 알고리즘 새로고침 기능을 대상으로 플라시보 실험을 진행하는 것이 이용자를 오도할 수 있다고 우려했다.

해당 직원은 이 기능이 추천 알고리즘에 대한 이용자 통제권을 높이기 위해 도입됐는데, 실제로 작동하지 않는 기능을 제공하는 실험은 이러한 취지와 충돌한다고 지적한 것으로 알려졌다.

하지만 뉴욕주 측은 틱톡이 내부 우려에도 2023년 수천 명을 대상으로 실험을 반복했다고 주장했다.

또 틱톡이 알고리즘 새로고침 기능을 설명하는 방식에도 문제가 있다고 지적했다. 회사는 기능을 사용하면 추천 알고리즘이 초기화된다고 안내했지만, 실제 변화는 일시적이었다는 주장이다.

이번에 공개된 소송 서류에는 틱톡이 별도로 진행한 안전 기능 실험 관련 의혹도 담겼다.

뉴욕주 측은 틱톡이 일부 이용자를 무작위로 선정해 유해 콘텐츠 노출을 제한하는 안전 기능을 해제하는 실험을 진행했다고 주장했다.

앞서 블룸버그통신은 해당 실험에 포함된 뉴욕주 청소년이 자해와 자살 관련 콘텐츠에 반복적으로 노출된 뒤 숨진 사례를 보도한 바 있다. 그러나 해당 청소년의 사망과 틱톡 실험 사이 인과관계가 법적으로 확정된 것은 아니다. 안전 기능을 해제한 실험 역시 알고리즘 새로고침 기능을 작동하지 않도록 한 플라시보 실험과는 별개다.

틱톡 "서비스 개선 위한 테스트"…美 각 주 소송 이어져

틱톡은 서비스 개선을 위한 일반적인 기능 테스트라는 입장이다.

틱톡 대변인은 로이터에 "대부분의 기업과 마찬가지로 새로운 제품과 기능이 실제 환경에서 어떻게 작동하는지 확인하기 위해 정기적으로 테스트를 진행한다"고 밝혔다.

회사는 법원에 제출한 서류에서도 뉴욕주 측 주장을 전반적으로 부인하며 청소년 이용자 보호를 우선하고 있다고 설명했다.

이번 의혹은 레티샤 제임스 뉴욕주 검찰총장이 2024년 틱톡을 상대로 제기한 소송에서 나왔다.

뉴욕주는 틱톡이 청소년에게 중독을 유발하도록 서비스를 설계하고 안전 기능 효과를 과장했다며 소송을 제기했다.

이번 실험 관련 주장은 올해 8월 말 제출된 수정 소장에 포함됐으며, 법원 명령에 따라 관련 내용이 공개되면서 알려졌다.

틱톡은 미국 여러 주에서 청소년 보호와 관련한 소송에 직면해 있다.

지난 9월에는 앨라배마주와 소송에서 최소 1억 달러(약 1337억원)를 지급하고 청소년 대상 서비스 운영 방식을 변경하기로 합의했다. 다른 주들이 일정 조건에 따라 합의에 참여하면 지급액은 최대 3억 달러까지 늘어날 수 있다.