"SNS 알고리즘이 총기사고 부추겨"...美 빅테크 법적 책임질까

총기난사 유족, 유튜브·메타 등 소셜미디어 기업 10곳 상대 집단소송

미국 뉴욕주 버팔로에서 발생한 총기난사 사건의 유족과 이들을 대리하는 변호인단이 유튜브·메타(페이스북 모회사)·아마존·디스코드·포챈(4chan) 등 10여 개의 소셜미디어 기업을 상대로 집단소송을 제기했다. 이들은 해당 플랫폼의 추천 알고리즘이 가해자의 극단적인 사상 형성에 결정적인 영향을 미쳤다며 법적 책임을 물었다. 이 같은 논란과 사건과 관련해 테크미디어인 더버지와 기가진이 상세히 보도했다.

사건은 2022년 뉴욕주 버팔로의 한 슈퍼마켓에서 발생했다. 당시 18세였던 페이튼 겐드론은 수 시간 운전해 흑인 인구가 많은 지역의 매장을 찾아가 총기를 난사해 10명이 숨지고 3명이 다쳤다. 겐드론은 범행을 트위치에서 생중계했으며, 디스코드에는 인종차별적 밈에서 영향을 받았다는 고백과 함께 장문의 선언문을 작성한 것으로 확인됐다.

이 사건을 계기로 총기규제 단체인 ‘에브리타운 포 건 세이프티(Everytown for Gun Safety)’는 2023년 총기 판매업자, 가해자의 부모, 주요 SNS 플랫폼을 상대로 두 건의 민사소송을 제기했다. 원고 측은 “이들 플랫폼이 사용자 흥미를 끌도록 설계한 알고리즘이 겐드론의 사상에 영향을 미쳤다”며 “플랫폼은 사용자 몰입을 유도하는 콘텐츠 구조를 설계한 데 대한 책임을 져야 한다”고 주장했다.

총기 자료사진(제공=이미지투데이)

일부 피고 플랫폼은 개인 맞춤형 추천 시스템이 없다는 이유로 책임이 없다고 항변하고 있지만, 원고 측은 “이런 서비스 역시 사용자를 유입시키고 과격한 콘텐츠에 노출시키는 구조를 가지고 있다”며 소송 대상에 포함시켰다. 실제로 겐드론은 포챈의 콘텐츠에 깊은 영향을 받았다고 자백했으며, 그의 선언문에는 포챈의 게시물 인용이 다수 포함된 것으로 알려졌다.

핵심 쟁점은 플랫폼이 제공한 ‘알고리즘’이 법적으로 ‘제품’에 해당하느냐는 점이다. 원고는 추천 시스템과 사용자 몰입을 유도하는 사용자화면(UI)/사용자경험(UX) 설계를 하나의 ‘상품’으로 보고, 뉴욕주의 제품책임법(Product Liability Law)을 근거로 배상을 요구하고 있다. 원고 측은 “알고리즘은 위험하고 안전하지 않은 제품”이라며 “보다 안전한 방식으로 설계할 수 있었음에도 기업들이 사용자 참여와 수익 극대화를 위해 개선을 게을리했다”고 지적했다.

플랫폼 측은 이런 주장에 강하게 반발하고 있다. 메타 측 법률대리인 에릭 슘스키는 “서비스는 사용자의 활동에 따라 맞춤형 경험을 제공할 뿐”이라며 “알고리즘이 겐드론에게 영향을 미쳤을 가능성은 있지만, 겐드론의 신념 또한 알고리즘에 영향을 줬다는 점을 간과해선 안 된다”고 맞섰다.

유튜브(제공=픽사베이)

이번 사건은 과거 ‘곤잘레스 대 구글’ 소송과 유사한 양상을 보이고 있다. 해당 사건은 IS(이슬람국가) 테러 희생자의 유가족이 유튜브가 테러 관련 동영상을 추천했다며 구글을 상대로 제기한 소송이다. 이 사건에서 미국 대법원은 유튜브의 직접적인 책임이 입증되지 않았다며 통신품위법 제230조 해석 여부조차 검토하지 않고 소송을 기각한 바 있다.

소송의 향방은 미국 인터넷법의 핵심 조항인 ‘통신품위법 제230조(Section 230 of the Communications Decency Act)’ 해석에 달려 있다. 해당 조항은 플랫폼이 사용자 게시물에 대한 법적 책임을 면제받을 수 있도록 규정하고 있다. 하지만 이번 사건에서는 게시물 자체가 아니라 알고리즘 추천 시스템의 책임을 묻고 있어 기존 판례와는 다른 결론이 나올 가능성도 제기된다.

뉴욕주 법원은 2024년 해당 소송의 본격적인 진행을 허용했다. 그러나 구체적인 판단은 아직 내려지지 않은 상황이다. 이 사건은 향후 인공지능 기반 콘텐츠 추천 시스템의 법적 책임과 소셜미디어 기업의 알고리즘 설계 윤리에 중대한 선례가 될 것으로 전망된다.

나너우리 포용성 캠페인

AI 추천 알고리즘의 발달로 사회 전반의 갈등과 분열이 심화되고 있다는 우려가 커지는 가운데, 스스로 포용성을 되돌아보자는 취지의 ‘포용성 회복 캠페인’이 진행 중이다. "기울어진 알고리즘을 리부트 하라"란 슬로건으로 진행되는 이번 캠페인은 이달 30일까지 계속된다.

캠페인의 핵심은 나의 정치·젠더·종교·세대 성향을 MBTI처럼 간단한 온라인 설문을 통해 파악하고, 결과를 바탕으로 상대가 나와 ‘다름’을 이해하며 포용을 실천하자는 것이다. 참여자는 자신의 성향 결과를 공유하고, 포용 실천을 위한 ‘한 줄 다짐’을 댓글로 남기면 자동으로 경품 이벤트에 응모된다. 또 SNS에 캠페인 해시태그와 함께 URL을 공유하면 중복 응모도 가능하다. 추첨을 통해 ▲아이패드 미니 ▲애플워치10 ▲에어팟 프로2 ▲에어팟4 등 인기 애플 제품은 물론, 스타벅스 기프티콘도 증정한다. 

당첨자는 7월 15일 지디넷코리아 홈페이지 공지사항을 통해 발표될 예정이다. 캠페인 참여 방법은 위 이미지 QR코드를 스캔하거나, [☞캠페인 페이지 바로가기] 버튼을 클릭하면 된다. 지디넷코리아 웹사이트 상단에 있는 '포용캠페인' 단어를 클릭해도 된다.