범죄자 얼굴형 학습 AI 시스템 논란 불거져

"생김새로 범죄자 골라낸다는 발상 위험"

얼굴 생김새만으로 범죄자를 판단할 수 있을까? 관상학 얘기가 아니다. 중국 한 대학의 인공지능(AI) 연구진들이 실제 범죄자들의 얼굴을 AI에 학습시켰더니 공통된 특징을 발견할 수 있었다는 논문을 발표했다.

이들은 작은 입, 두툼한 입술, 좁은 미간을 가진 사람이 범죄자일 가능성이 크다는 결론을 냈지만, 이번 연구에 대한 비판이 만만치 않다. 연구 방법에 문제가 있다는 지적과 함께 얼굴 생김새만으로 범죄가능성을 판단하는 것이 위험하다는 지적이다.

튜링테스트 인공지능 AI 신경과학 뇌과학 HCI 인간기계인터페이스

18일(현지시간) IT전문 외신 더레지스터는 중국의 상하이자오퉁대학(상해교통대학) 연구진이 출판 전 논문을 공개하는 웹사이트 아카이브(ArXiv)에 지난 13일 이같은 논문을 게시(☞링크)했다고 보도했다.이들은 얼굴의 특징과 범죄가능성 사이의 연관성을 찾기 위해 4가지 분류 알고리즘 및 기계학습알고리즘을 활용했다. 그 결과 얼굴 생김새를 통해 범죄 가능성을 판단하기 위해선 얼굴의 3가지 특징을 면밀히 살펴볼 필요가 있음을 발견했다고 이들은 주장했다. 윗입술의 곡률, 눈과 눈사이 거리, 코끝과 입 양끝의 각도가 그것이다.

이들은 평균과 비교해 범죄자들의 코와 입술의 각도는 19.6% 더 작고, 윗 입술의 굴곡은 23.4% 더 크고, 눈과 눈 사이의 거리는 5.6% 더 좁다는 결론을 냈다. 즉 입술이 작고, 윗입술이 두툽하고, 미간이 좁은사람이 AI가 찾아낸 범죄자형 얼굴이라는 얘기다.

논문은 특히 컴퓨터 비전 알고리즘과 분류체계는 인간과 달리 “과거의 경험, 인종, 종교, 정치 이념, 성별, 나이 등으로 인한 주관적인 마음, 감정, 편견이 전혀 없다”는 점에서 객관적일 수 있다는 점을 강조했다.

하지만 얼굴인식 기술을 범죄 가능성 판별에 이용하는 것이 적합하지 않다는 비판도 크다.

더레지스터는 기계가 주감정과 양심이 없는 것은 사실이지만, 그렇다고 학습에 이용된 데이터가 편향되지 않았다는 것을 의미하진 않는다고 꼬집었다. 학습에 이용된 데이터를 선별하는 과정에서 인간의 주관이 들어갈 수 있고 이에따라 결과도 달라질 수 있다는 지적이다. 실제 이번 논문에서 연구진들은 "1856개의 얼굴 이미지를 이용하면서 인종, 성별, 나이, 얼굴 표정을 통제했다"고 설명했다.

AI를 적용가능할 수 있는 분야인지 의구심을 불러 일으킨 사례는 이번 말고 또 있었다. AI를 이용한 최초의 국제 미남미녀 대회 선발을 목표로한 ‘뷰티.ai’는 피부색과 민족 등을 판단 매개 변수로 포함해 논란을 일으키기도 했다. 이 AI는 밝은 피부색에 대한 선호를 보였고 결국 백인들만 최고의 미남, 미녀로 선발했다.

보도를 접한 네티즌들도 "골상학(두개골 형태에 따라 성격 등이 결정된다고 보는 학문)으로 회귀하는 것이냐", "일반적인 특징을 도출하기엔 1856개의 데이터는 너무 적은 것 아이냐", "생김새로 사전에 범죄자를 골라낸다는 발상이 위험하다"는 등 대체로 부정적인 반응을 보였다.