아마존 얼굴인식SW 경찰 판매 중단 요구 확산

"인권 침해 가능성"...AI전문가·미국시민자유 연맹 한 목소리

아마존이 얼굴 인식 소프트웨어 ‘레코그니션(Rekognition)’을 사법기관에 판매하는 것을 중단해야 한다는 목소리가 높아지고 있다.

이 소프트웨어가 인권을 해칠 수도 있다고 보기 때문이다.

레코그니션은 CCTV 등에 잡히는 행인의 사진을 수사기관 내 피의자 사진과 비교해 용의자를 추적할 수 있는 프로그램이다."

미국 IT매체 씨넷의 3일(현지시간) 보도에 따르면, 레코그니션 판매 중단 요청 운동에는 인공지능(AI) 전문가들이 앞장을 서고 있다.

이들은 "레코그니션 소프트웨어에 대한 연구 결과들을 아마존이 간과하고 있다"며 "소프트웨어 판매를 중단할 것"을 요구하는 서한을 공개했다.

AI 전문가들이 아마존이 얼굴 인식 소프트웨어 ‘레코그니션’을 사법기관에 판매하는 것을 중단할 것을 촉구하고 나섰다(사진=이미지투데이)

지금까지 27명의 인공지능 전문가들이 이 내용을 담은 서한에 서명했다.

컴퓨터 과학 분야의 노벨상이라 불리는 튜링 상 수상자인 AI 전문가 요슈아 벤지오(Yoshua Bengio)를 비롯해 대학과 기업의 AI 전문가들이 포함됐다.

이들은 이 서한에서 "우리는 아마존이 모든 제품을 철저히 조사하고, 경찰에 의해 SW가 사용되어야 하는지에 대해 의문을 제기할 것을 희망한다"며 "현재 관련 법안과 안전 장치가 마련되어 있지 않기 때문에 아마존이 레코그니션을 사법기관에 판매하는 것을 중단할 것을 촉구한다"고 밝혔다.

작년에는 아마존 얼굴인식 시스템이 미 의회 의원 28명의 얼굴을 범죄자로 인식한 결과를 미국시민자유연맹이 발표한 적도 있다. (사진=씨넷)

한 연구 결과에 따르면, 아마존의 레코그니션은 백인 남성보다 피부색이 어두운 흑인 여성을 인식하려고 할 때 오류율이 훨씬 더 높은 것으로 알려졌다.

이번 공개 서한은 이 연구 결과가 발표된 후, 아마존이 해당 연구 결과를 반박하는 글을 블로그를 통해 최근 게시한 후에 나온 것이다.

미국시민자유연맹(ACLU)도 이들 AI 연구진을 지지하는 성명서를 발표했다.

ACLU 변호사 인 매트 캐글은 "얼굴 감시는 모든 사람들, 특히 유색 인종, 이민자, 종교 소수자 등을 추적, 통제하고 해칠 수 있는 큰 힘을 정부에게 제공한다"며 "이 위협적인 기술을 통해 이익을 얻으려는 회사는 자신이 구축한 시스템의 피해에 대해 책임을 무시하고 이를 외부에 돌릴 수 없다"고 밝혔다.

또 "그들은 정부에 얼굴인식SW를 판매하는 것을 중단해야 한다"고 주장했다