영국 경찰, 인종 편향 논란에 '실시간 안면 인식' 사용 일시 중단

케임브리지대 실험서 인종별 성능 격차 확인…흑인 정탐률 최대 15%p 높아

영국 에섹스(Essex) 경찰이 도입한 실시간 안면 인식 기술(LFR)에서 인종별 식별 편향 가능성이 제기돼 사용이 일시 중단됐다.

23일 더레지스터 등 외신에 따르면 케임브리지대 연구진은 실제 경찰 작전 환경에서 LFR 성능 평가를 진행한 보고서를 발표했다. 이번 실험 결과에선 여성보다 남성을 다른 인종보다 흑인 참가자를 보다 더 정확하게 식별하는 경향이 나타났다. 

케임브리지대 연구 결과에 따르면 흑인 대상 정탐률(TPIR)은 백인보다 14.2%p, 기타 인종보다 15.0%p, 아시아인보다 9.5%p 더 높은 것으로 나타났다(이미지=케임브리지대)

188명의 자원자를 대상으로 진행된 이번 실험에서 시스템은 감시 대상자의 약 절반을 정확히 식별했다. 오인 식별은 전반적으로 드문 수준으로 나타났다.

다만 총 6건의 오인 식별 중 4건이 흑인 대상에서 발생했다. 전체 관측 중 흑인 비율이 약 23.8%였다는 점을 고려하면 특정 집단에 결과가 일부 집중된 것으로 해석될 여지가 있다.

이와 함께 식별 성능 자체에서도 인종별 차이가 확인됐다. 케임브리지대 연구에 따르면 실시간 안면 인식 시스템의 현재 운영 기준값(55) 기준으로 흑인 대상 정탐률(TPIR)은 다른 인종보다 더 높게 나타났다. 백인보다 14.2%p, 기타 인종보다 15.0%p, 아시아인보다 9.5%p 높은 수준이었다.

에섹스 경찰은 해당 결과를 바탕으로 기술 운용을 중단했다. 알고리즘 소프트웨어 제공업체와 협력해 시스템 개선 작업에 착수한 상태다.

앞서 경찰은 공공 부문 평등 의무에 따라 두 건의 독립 연구를 의뢰했다. 한 연구에서는 식별 과정에서 잠재적 편향 가능성이 제기됐고, 다른 연구에서는 통계적으로 유의미한 편향이 없다는 결과가 나왔다. 경찰은 이를 종합해 선제적으로 운용 중단을 결정했다.

경찰 측은 "추가 학술 검증과 정책, 절차 개정을 거쳤다"며 "향후 수배자 추적 등 경찰 활동에 해당 기술을 재도입할 수 있도록 준비하고 있다"고 밝혔다. 이어 "특정 집단에 대한 편향 가능성이 없도록 지속적으로 결과를 점검하겠다"고 덧붙였다.