"이용자를 실험 대상으로"…美 상원의원들, 틱톡에 해명 요구

유해 콘텐츠 차단 기능 해제…다음 달 1일까지 답변

미국 상원의원들이 틱톡 경영진에게 서한을 보내 수백만 명의 이용자를 대상으로 안전 기능을 적용하지 않은 채 진행한 실험에 관해 해명을 요구했다. 실험 대상에는 이후 스스로 목숨을 끊은 16세 청소년도 포함된 것으로 나타났다.

20일(현지시간) 블룸버그통신에 따르면 마샤 블랙번 공화당 상원의원과 리처드 블루멘털 민주당 상원의원은 저우서우즈 틱톡 최고경영자(CEO)와 애덤 프레서 틱톡 미국 법인 CEO에게 서한을 보내 관련 자료와 답변을 제출하라고 요구했다.

이번 논란은 블룸버그 비즈니스위크가 2023년 작성된 틱톡의 기밀 문건을 공개하면서 불거졌다.

틱톡

문건에 따르면 틱톡은 미국 이용자의 10%를 대조군으로 지정하고 유해 콘텐츠가 반복 노출되는 것을 막기 위한 알고리즘 안전장치를 해제했다. 안전 기능이 이용자의 일간활성이용자 수(DAU)와 핵심 지표에 어떤 영향을 미치는지 측정하기 위한 실험이었다. 당시 대조군에 포함된 이용자는 약 1500만명으로 추산된다.

이 가운데에는 미국 뉴욕주에 거주하던 16세 체이스 나스카도 포함됐다. 그는 2022년 1월 25일 무작위로 실험 대상에 선정됐으며 약 한 달 뒤 스스로 목숨을 끊었다. 문건에는 체이스의 계정에 숨지기 직전까지 슬픔과 절망, 외로움, 자살 등에 관한 수천 개의 영상이 추천됐다는 내용이 담겼다.

틱톡은 해당 계정에 이른바 어두운 내용의 콘텐츠가 집중적으로 노출된 이유에 대해 “필터 버블 방지 전략이 설계상 이 이용자에게 적용되지 않았기 때문”이라고 문건에 적었다.

회사가 일부 이용자의 안전 기능을 해제한 이유에 대해서는 “안전과 DAU 및 핵심 지표에 미치는 영향을 측정하는 능력 사이에서 균형을 맞추기 위한 결정”이라고 설명했다.

두 의원은 서한에서 “틱톡이 이용자 보호가 재무적 성과에 미치는 영향을 확인하기 위해 아동을 포함한 수백만 명의 미국 이용자에게 핵심 안전 조치를 의도적으로 적용하지 않았다는 보도에 대해 해명을 요구한다”고 밝혔다.

이어 “틱톡이 이익보다 청소년의 안전과 복지를 우선한다고 의회와 부모, 미국 국민에게 거듭 강조해온 것에 심각한 의문을 제기한다”고 지적했다.

이들은 의회가 틱톡의 알고리즘이 청소년을 유해 콘텐츠로 유도할 수 있다는 우려를 실험 시작 전인 2021년 10월부터 제기했다는 점도 문제 삼았다.

두 의원은 실험 사실을 보고받은 직원 명단과 미성년자를 대상에 포함한 이유, 경영진이 실험을 인지한 시점 등을 포함한 13개 질문에 답변하라고 요구했다. 비즈니스위크가 보도한 문건의 무삭제 원본도 제출하도록 했다.

아울러 틱톡이 미국에서 진행한 알고리즘 실험 가운데 안전 기능을 해제하거나 적용을 늦추고 기능을 축소한 모든 사례와 실험별 이용자 수, 미성년자 규모를 공개하라고 요청했다. 답변 기한은 다음 달 1일까지다.

블랙번 의원은 “회사가 이용자를 실험 대상으로 삼았다는 것은 상상하기 어려운 일”이라며 “아동이 소셜미디어 플랫폼을 이용할 때 이들 자신이 상품이 된다는 점을 보여준다”고 비판했다. 이어 이번 실험을 기업이 안전보다 수익과 이용자의 관심을 붙잡는 것을 우선한 사례로 규정하며 플랫폼에 책임을 물어야 한다고 강조했다.

틱톡은 의원들의 서한에 대한 논평 요청에는 응답하지 않았다. 다만 앞서 비즈니스위크에 “특히 청소년을 포함한 이용자의 안전과 복지를 위해 노력하고 있다”며 “유해 콘텐츠 탐지 시스템과 커뮤니티 가이드라인 위반 콘텐츠를 선제적으로 삭제하는 전담 인력 등 신뢰·안전 분야에 대규모 투자를 이어가고 있다”고 설명했다.