황당한 아마존 얼굴인식시스템…"美의원 28명 범죄자로 인식"

ACLU 실험 결과…"80% 신뢰도 막을 방법 없어"

아마존의 얼굴인식시스템이 미국 의원 28명을 범죄자로 잘못 인식했다고 IT매체 씨넷이 26일(현지시간) 보도했다.

이 같은 사실은 미국시민자유연맹(ACLU)이 아마존 얼굴인식 시스템 ‘레코그니션(Rekognition) API’를 통해 미국 의원 535명과 범죄자 2만5천명의 얼굴을 함께 인식시킨 다음 식별하는 실험을 통해 밝혀졌다.

실험 결과 아마존의 얼굴인식 시스템은 28명의 국회의원을 범죄자와 일치한다고 분석했다.

아마존 얼굴인식 시스템이 미 의회 의원 28명의 얼굴을 범죄자로 인식했다. (사진=씨넷)

ACLU는 법 집행기관이 해당 시스템을 사용할 경우 심각한 문제를 일으킬 수 있다고 밝히며, "정확성 여부에 관계없이 개인에 대한 신원 확인은 사람들의 자유, 심지어 삶을 방해할 수 있다"고 밝혔다.

아마존은 이에 대해 해당 테스트가 아마존이 법 집행 기관에 권장하는 신뢰도 95% 이상이 아닌 기본 설정된 80% 신뢰도 수준으로 진행됐기 때문이라고 밝혔다.

얼굴인식시스템이 범죄자로 인식한 미 의원 28명 (사진=ACLU)

아마존 측은 "핫도그, 의자, 동물 등 기타 SNS에서 사용하는 사진은 80%의 신뢰도가 허용 기준이지만, 이는 개인을 합리적으로 식별하는 데 적절치 않다. 아마존은 법 집행 활동에 얼굴 인식 기술을 사용할 경우 최소 95 % 이상의 임계치를 설정하도록 안내하고 있다”고 밝혔다.

하지만 이에 대해 ACLU는 레코그니션 설치 과정에서 해당 권장 내용이 나오지 않으며, 법 집행기관이 기본 설정 값 80%로 설정해 사용하는 것을 막을 수 있는 방법도 없다고 밝혔다.

이에 대해 미국 의회 의원들은 제프 베조스 아마존 최고경영자에게 얼굴인식 기술이 가진 효능이나 영향에 대해 설명하라는 서한을 보내며 대응과 즉각적인 미팅을 요구하고 나섰다.

"얼굴 인식이 사생활과 시민의 권리에 미칠 수 있는 위험성에 대한 우려가 심각하게 제기됐다"며, "정부 감시의 도구로 사용될 때 특히 그렇다"고 서명을 통해 지적했다.