메타의 AI 시스템, 인도 20대 극단적 선택 막았다

AI, 자살 시도 영상 발견해 경찰청에 경고 전송

소셜 미디어 기업 메타의 인공지능(AI) 시스템이 인도 인스타그램에 업로드된 자살 시도 영상을 적발, 이를 경찰에 알려 자살을 막았다.

4일 NDTV 등 인도 현지 외신에 따르면, 인도 루크나우에 거주하는 20대 여성 A씨는 지난달 31일 오후 12시 11분(현지시간) 인스타그램에 자살 시도 영상을 게시했다. 영상에는 천장 선풍기에 걸린 두파타(스카프)를 목에 맨 채 의자 위에 서 있는 A씨의 모습이 담겨 있었다.

영상이 게시된 후 몇 분 만에 메타 AI 시스템은 경찰청에 경고를 전송했다. 경고를 전송받은 경찰청은 A씨의 거주지를 찾아 해당 지역 경찰서에 이를 전달했다. 경찰은 오후 12시 15분 A씨의 집에 도착해 그를 구출했다. 자살 시도 영상 게시부터 경찰 출동까지 약 4분 만에 구출이 이뤄진 것이다.

모한랄간지 경찰 부국장(ACP) 라지니시 베르마는 인도 통신사 PTI와의 인터뷰에서 "A씨는 현재 안정을 유지하고 있고 경찰과 계속 연락을 주고받고 있다"고 전했다.

A씨는 남편 B씨와의 이별로 극심한 스트레스를 받아 자살을 시도한 것으로 알려졌다. 현재 B씨는 자살방조 혐의로 경찰에 체포된 상태다.

한편, 메타는 지난해 1월부터 인도 우타르 프라데시 주의 경찰과 협력해 AI 시스템을 활용한 자살 예방을 해왔다. 지난해 1월부터 올해 8월까지 메타의 AI 시스템은 자살 위험이 내포된 컨텐츠 740건을 발견해 우타르 프라데시 경찰에 신고했다. 그 결과 총 457명의 생명을 구했다.

프라샨트 쿠마르 우타르 프라데시 경찰청장은 인도 타임스오브인디아와의 인터뷰에서 "메타의 경보에 대한 신속한 대응으로 400명 이상의 생명을 구한 데 큰 만족을 느낀다"며 "법 집행 기관과 기술 간의 이러한 협력은 생명을 구하고 위기 상황에서 중요한 지원을 제공하는 데 효과적임이 입증됐다"고 밝혔다.