"살해 협박까지?"…美 볼티모어 고교 교장, '딥페이크' 음성에 당했다

고등학교 교장에게 악의 품은 교사, AI 조작으로 흑인 인종차별 딥페이크 음성 제작

미국 메릴랜드주 볼티모어 지역의 한 고등학교 교장이 인공지능(AI)으로 조작된 음성으로 인해 살해 협박까지 받는 일이 발생했다. 흑인·유대인을 비하하는 내용이 담겨 있었기 때문이다.

7일 BBC 등 외신에 따르면 에릭 아이스워트 볼티모어 파이크스빌 고등학교 교장은 지난 1월 인종차별 발언이 담긴 AI 조작 음성 파일로 인해 심각한 명예 훼손을 당했다.

아이스워트 교장은 조작된 음성파일로 인해 재직 학교를 옮겨야 했으며 소셜네트워크서비스(SNS) 상에서도 수십 개의 혐오·살해 위협 메시지를 받은 것으로 확인됐다.

'블랙 라이브스 메터' 운동이 미국 내 진행 중인 모습이다 (사진=씨넷)

외신들은 볼티모어 주민들이 조작된 음성을 진짜라고 믿었던 이유로 실제 사람들이 겪을 만한 사례를 중심으로 음성이 만들어졌기 때문이라고 분석했다.

또 영상이 오디오로만 이뤄져 AI로 조작된 영상이란 걸 눈치챌 수 있는 시각적 단서가 없었고 교장의 목소리로 교내 행정 용어와 학교 직원들을 언급하며 사실과 구분하기 힘든 파일이 만들어졌다고 보도했다.

그러나 볼티모어 거주 흑인인 알피 말론은 "교장이 흑인 학생들을 게으르다고 묘사하는 걸 듣자마자 학교와 직장에서 접했던 모욕과 차별이 생각났다"며 "흑인으로서 겪었던 인종차별 경험이 생각나 불쾌한 감정이 앞섰다"고 밝혔다.

당시 음성에는 지역 사회 흑인 아이들과 유대인들에 대한 비난이 섞여 있던 것으로 확인됐다. 볼티모어는 미국 내에서도 빈민층 흑인과 히스패닉이 많이 살고 총기 사건 등 강력범죄 발생 비율이 매우 높은 지역으로 꼽힌다.

로버트 맥컬러브 볼티모어 경찰서장은 지난 4월 녹음이 가짜라는 결정적인 증거를 확보하고 교장을 음해·스토킹한 혐의로 고등학교 운동부장인 다존 다리엔 교사를 기소했다.

다리엔은 딥페이크 음성으로 교장의 신뢰를 떨어트려 해고하려는 목적으로 해당 음성을 조작한 것으로 밝혀졌다. 볼티모어 경찰은 다리엔이 학교에서 약 1천916달러를 훔쳐 교장으로부터 조사를 받고 있던 사실도 찾아 절도 혐의를 추가했다. 볼티모어 교사 노조는 조작된 음성 파일로 인해 교장이 끝내 학교를 떠나야 했다는 점을 두고 안타까움을 드러냈다.

볼티모어 경찰 측은 "원본 음성을 보내는 데 사용된 이메일이 다리엔에게 연결된 것을 확인해 이를 바탕으로 추적했다"며 "그가 볼티모어 카운티 공립학교의 컴퓨터 네트워크를 사용해 AI 도구에 접근했고 올해 12월 재판을 받을 예정"이라고 말했다.