美 'AI 채용 도구' 주의보..."한 번 찍히면 계속 탈락"

특정 지원자 시스템적으로 배제하고 소수인종 불이익..."법안 마련 시급"

기업들이 도입한 AI 채용 도구가 특정 지원자를 시스템적으로 배제하고 있으며, 특히 흑인과 아시아계 등 소수 인종에게 심각한 불이익을 주고 있다는 조사 결과가 나왔다. 

특히 많은 기업이 동일한 외부 공급업체 AI 알고리즘을 공유해 사용하면서, 한 기업의 AI 툴에서 감점된 구직자가 다른 기업의 채용 과정에서도 연쇄적으로 원천 배제되는 이른바 ‘알고리즘 획일화(Algorithmic Monoculture)’ 현상도 감지됐다.

스탠퍼드 대학교 인간중심 AI연구소(HAI)는 최근 실제 대규모 채용 데이터셋을 활용해 AI 채용 도구가 구직자들에게 미치는 영향을 분석한 연구 결과를 발표했다. 조사 대상은 150개 고용주, 11개 산업 섹터에 걸친 1700건의 구인 광고와 여기에 응모한 340만 명의 지원 서류 400만 건이다. 이들 구인 안건은 모두 동일한 외부 공급업체가 구축한 AI 채용 도구를 통해 서류 분류 및 등급 매기기 평가를 받았다.

많은 기업이 동일한 외부 공급업체 AI 알고리즘을 공유해 사용하면서, 한 기업의 AI 툴에서 감점된 구직자가 다른 기업의 채용 과정에서도 연쇄적으로 원천 배제되는 이른바 ‘알고리즘 획일화’ 현상이 확인됐다.(이미지 출처=클립아트코리아)

미국 기업 90% AI 채용 도구 사용...아시아계·흑인계 지원자 불이익

최근 생성형 AI의 보급으로 구직자들의 이력서 작성이 수월해지면서 미국의 기업당 채용 응모 건수는 2022년 대비 3배 가까이 증가했다. 이에 대응하기 위해 현재 미국 기업의 약 90%는 AI 채용 도구를 사용해 지원자를 선별하고 있다.

문제는 스탠퍼드 HAI의 조사 결과, 이 과정에서 심각한 인종적 편향이 나타났다는 점이다. 지원자 수 기준 백인이나 히스패닉 구직자가 AI 알고리즘에 의해 불이익을 받은 비율은 1% 미만에 그쳤다. 반면 아시아계는 5.3%, 흑인은 무려 10.6%의 사례에서 AI 채용 도구로 인해 악영향을 받은 것으로 확인됐다.

이를 개별 응모 건수별로 확대해 보면 수치는 더욱 심각해진다. 아시아계는 전체 응모 건수의 약 15%, 흑인은 약 26%에 달하는 구인 안건에서 서류 심사 단계부터 원천 배제된 상태였던 것으로 드러났다.

HAI 연구진은 "만약 AI 채용 도구가 흑인이나 아시아인 구직자를 백인과 동일한 비율로 추천했다면, 4만 건 이상의 구인 프로세스에서 이들이 탈락하지 않고 다음 단계(면접 등)로 진학할 수 있었을 것"이라고 설명했다.

단일 AI 채용 도구가 심사 기준 독점 시 '알고리즘 획일화' 우려

AI 채용 절차는 다음과 같이 진행된다. 구직자가 지원서를 제출하면, 이 지원서는 채용 AI 업체로 전송된다. 이어서 해당 업체의 머신러닝 모델이 데이터를 분석해 예측 결과를 도출하고, 그 결과로 나온 '추천' 또는 '추천하지 않음'이라는 분류(라벨)가 고용주에게 전달돼 최종 채용 의사결정에 활용된다.(출처=스탠포드 HAI)

이번 연구에서 가장 경종을 울리는 부분은 '알고리즘 획일화'가 불러온 도미노 탈락 현상이다. 과거 이론으로만 존재했던 이 위험성이 실제 데이터를 통해 증명됐다.

동일한 알고리즘을 사용하는 AI 채용 도구 기반 일자리에 여러 번 응모한 구직자들의 경우, 각 기업이 사람의 눈으로 독립적인 채용 결정을 내렸을 때와 비교해 응모한 모든 기업에서 전방위로 거부(불채용)당할 가능성이 비정상적으로 높았다. 

연구팀은 교차 검증을 위해 포춘 500대 기업 108개사의 구인 안건 8만 3000건을 대상으로 (AI 툴 사용 여부를 통제하지 않고) 조사를 실시했다. 그 결과, 개별 기업들이 각자 독립적으로 채용을 결정한 일반적인 상황에서는 특정 지원자가 응모한 모든 기업에서 동시에 거절당하는 비율이 통계적 예측치를 넘지 않았다.

결국 특정 구직자가 시장에서 완전히 퇴출당하는 현상은 '단일 AI 채용 도구'가 심사 기준을 독점하고 지배할 때만 발생하는 특이 현상임이 확인된 셈이다.

"규제 당국, AI 고용 정책과 법안 시급히 마련해야"

스탠퍼드 HAI의 조사 결과, 지원자 수 기준 백인이나 히스패닉 구직자가 AI 알고리즘에 의해 불이익을 받은 비율은 1% 미만에 그쳤다. 반면 아시아계는 5.3%, 흑인은 무려 10.6%의 사례에서 AI 채용 도구로 인해 악영향을 받은 것으로 확인됐다.(이미지 출처=클립아트코리아)

스탠퍼드 HAI는 현재 취업 시장의 의사결정을 주도하는 채용 AI 도구들이 사회적으로 공존해서는 안 되는 세 가지 치명적인 특성을 모두 갖고 있다고 경고했다. 

바로 ▲사회 전반에 '널리 보급돼 있고' ▲개인의 삶에 '치명적인 영향력'을 미치며 ▲정작 일반 시민과 구직자들에게는 철저히 '불투명하다'는 점이다.

연구진은 "알고리즘 채용 기법에 대한 독립적이고 객관적인 연구가 지속적으로 뒷받침되지 않는다면, AI가 개별 고용 전망과 국가 노동력 구성에 미치는 부정적 영향을 통제하기 어려워질 것"이라며 "향후 규제 당국이 명확한 증거에 기반한 AI 고용 정책과 법안을 시급히 마련해야 한다"고 강조했다.