"AI, 기술과 함께 사회 문화도 개선해야"

마이다스인 'AI역량검사 백서'로 본 AI채용과 AI의 투명성, 공정성, 책임성

인공지능(AI) 챗봇 '이루다' 사건을 계기로 AI에 대한 규제와 책임론이 도마에 올랐다. 관련 행사도 잇달아 열리고 있다. 지난 4일 한국인공지능법학회가 'AI일탈을 어떻게 막을 것인가'를 주제로 온라인 좌담회를 열었고, 15일에는 바른 과학기술사회 실현을 위한 국민연합(과실연)이 'AI의 규제·책임론에 대하여-혼란 진단과 대안 모색'을 주제로 146차 오픈포럼을 개최했다. 앞서 지난 10일에는 국회입법조사처가 '이루다를 통해 살펴본 인공지능 활용의 쟁점과 과제'라는 보고서를 발간하며 "제2의 이루다 사태를 막으려면 개인정보 보호 및 인공지능 윤리 법제를 강화해야 한다"고 강조했다. 이런 사회적 분위기를 반영해 개인정보보호위원회는 AI제품과 AI서비스에 개인정보가 안전히 보호될 수 있게 개인정보 보호 수칙을 마련하겠다고 밝힌 바 있다.

신기술은 늘 현재와 충돌한다. AI도 마찬가지다. AI 부작용에 따른 규제 움직임은 국내 뿐만이 아니다. 해외에서도 진행중이다. 산업계는 AI에 대한 규제 목소리가 커지면서 기술 발전과 시장이 위축될까 우려한다. AI가 거의 모든 분야에 활용되고 기업과 국가 경쟁력을 좌우하는 마당에 제대로 성장하기도 전에 된서리를 맞을까 걱정하는 것이다.

한 업계 관계자는 "AI는 지금 막 씨앗을 뿌린 단계다. 다소간 시행착오가 발생할 수도 있다"면서 "성급한 규제는 AI 기술 발전과 연관 산업 성장을 위축시킬 수 있으니 처음부터 강한 규범을 만들기 보다 자율적 노력을 돕는 연성 규범부터 하나씩 단계별로 시행하고, 이를 지원하는 것이 바람직하다"고 밝혔다. 이어 "AI 기술은 특성상 학습 데이터에 그 사회의 문화가 반영된다"면서 "이는 결국 AI 기술만의 문제가 아니라 우리 사회의 문제점을 함께 고쳐야만 해결될 수 있다"고 덧붙였다.

또 다른 관계자는 과거 우리나라가 초고속 인터넷을 선도적으로 도입해 오늘날의 IT 강국이 됐다면서 대한민국 숙원인 G5, G3 국가에 진입하려면 이 기회에 4차산업혁명 핵심 기술인 AI 산업 육성과 제도 전반을 재정비, 기술은 물론 제도와 시스템 분야에서도 우리나라가 세계 표준으로 도약할 수 있게 산학연관민이 지혜를 모아야 한다고 강조했다. 그는 "AI 기술의 투명성과 공정성, 책임성은 대단히 중요하고, 또 이를 강화하는 노력은 필요하다"고 전제하면서 "개인정보와 기술이라는 두 측면에서 보면 개인정보는 이미 상세한 가이드라인과 사후 조사제도가 있다. 기술도 동일한 접근법을 취하는게 바람직하다"고 말했다. 이어 "상세한 가이드라인을 제시해 활용 주체들이 자율적으로 사전에 준수하게 하고, 정부는 이런 자율적 수행을 돕는 지원 시책을 마련하면 좋겠다"면서 "법으로 사전 규제하기보다 문제가 발생하면 사후 조사를 통해 시정 및 개선을 유도하는 것이 바람직하다"고 말했다.

업계는 규제 강화 움직임을 우려하면서 "기업의 AI 기술이 과장돼 알려진 부분이 있다"며 항변한다. AI활용 사례로 많이 알려진 채용 분야가 그렇다. 업계는 AI는 채용의 비효율을 개선하는 도구이자 솔루션이라고 말한다. 그럼에도 마치 AI가 사람을 판단, 채용하는 것처럼 잘못 알려져 있다는 것이다. AI를 활용한 채용시장을 선도하고 있는 마이다스인이 최근 자사 홈페이지에 올린 'AI역량검사 백서'에도 이 부분이 언급돼 있다. 몇 몇 기업이 AI관련 윤리 가이드라인을 내놓았지만 서비스 세부 사항을 백서 형태로 공개한 건 마이다스인이 처음이다. 마이다스인은 AI 윤리와 개인정보보호에 대한 행동강령을 최근 제정하는 한편 외부 전문가들이 참여하는 위원회도 이른 시일안에 구성하는 등 자율 검수 노력을 강화하고 있다.

마이다스인이 개발한 'AI기반 역량검사'는 450개 기업에서 활용하고 있다. 그만큼 기업에서 효용성을 인정받고 있다. 코로나19로 비대면 채용이 일상화되면서 많은 기업과 공공기관이 서류전형이나 인성적성검사를 대체, AI역량검사를 도입했다. 마이다스인은 'AI역량검사'에 대해 "AI가 채용하는 것이 아니라 채용을 지원하는 솔루션"이라고 말한다. 특히 AI역량검사는 학력, 배경, 자격증 같은 스펙 위주 기존 채용 문화를 개선, 개인이 가진 역량 중심으로 채용을 돕는다는 점에서 주목받고 있다. '스펙'이 아닌 개인 '역량'에 초점을 맞춤으로써 보다 더 공정하다는게 마이다스인의 설명이다.

마이다스인이 자사 홈페이지에 올린 'AI역량 검사 백서'(www.midashri.com/aicc) 기준으로 일반인에 아직 생소한 AI역량검사가 무엇인지, 또 AI채용과 AI역량검사는 어떻게 다른지, AI의 공정성과 책임성, 투명성은 확보 될 수 있는 지 등을 Q&A식으로 정리해 봤다.

Q: AI역량검사는 무엇?

A: AI역량검사는 학력이나 자격증 같은 스펙이 아니라 역량을 중심으로 사람을 채용한다. 일종의 채용 보조 솔루션인 셈이다. 의료 AI 등 다른 AI가 '보조'에 그치 듯이 AI역량검사에서도 AI는 채용을 '보조'하는 역할을 한다. 업계가 "AI가 직접 채용을 하는게 아니다. AI가 채용을 한다는 건 과장된 것"이라고 말하는 이유다. 마이다스인 'AI역량검사'는 성과를 보는 것과 소통을 보는 것 등  크게 두 분야로 구성됐다. 이중 핵심은 핵심은 성과 역량 검사다. 이는 뇌신경과학을 기반으로 긍정성, 적극성, 전략성, 성실성 같은 성과 부분 역량을 측정한다. 또 소통 역량 검사는 영업 등 대면이 많은 3개 직군에 한해 제한적으로 반영된다. 학력과 지식,인성이 좋다고 실제로 성과가 좋은 건 아니며, 면접도 사람의 편견∙편향 때문에 100% 공정하다고 말하기 힘들다. 이런 문제를 보완하기 위해 직원 성과와 연관성이 높은 중요한 지수를 중심으로 합리적 채용을 돕기 위해 AI역량검사를 개발했다는게 마이다스인의 입장이다.

Q: AI역량검사에서 사용하는 AI 기술 범위와 수준은 어느 정도?

A: 마이다스인에 따르면 온라인 기반 대규모 응시를 지원하기 위한 프로세스 자동화 처리, 면접영상을 이용한 소통역량 추론, 기업별 맞춤형 선발모델을 위한 커스터마이징 등에 부분적으로 AI기술이 사용됐다. 이중 영상면접 분석에 따른 소통역량 추론은 영업 등 일부 직군에만 적용된다. 또 분석은 외적인 호감도와 발화 특성만 파악하고 답변 내용은 분석하지 않는다. 특히 성과역량 검사가 핵심인데 보통 선발검사에서 가장 많이 사용하는 규준참조검사(norm-referenced test)로 AI 기술을 사용하지 않는다고 마이다스인은 설명했다.

Q: AI역량검사와 AI면접은 어떻게 다를까?

A: 소통역량 검사의 질문 및 답변 절차가 ‘AI 면접’으로 확대 해석됐다는게 마이다스인 설명이다. 잘 못 알려진 'AI면접' 프레임에 따라 "AI가 판단하는 것 아냐?" 혹은 "AI와 묻고 답하기를 하면 그걸로 합불(합격불합격)이 결정되는 것 아냐?"라는 오해가 생겼다는 것이다. AI역량검사는 면접이 아닌 역량 진단 도구로 판단이 아닌 참조 자료일 뿐이라는 것이다. 실제 마이다스인은 "AI역량검사에서는 AI가 판단하지 않는다. 기업에서 지원자를 합리적으로 파악할 수 있게 역량 진단 결과와 면접영상을 포함한 다양하고 충분한 정보를 제공할 뿐이다. 실제 판단은 각 기업에서 직무별로 적합한 기준을 가지고 한다"고 설명했다.

Q: AI는 블랙박스라는 말을 듣는다. 투명성 문제가 제기되는 이유다. AI역량검사는 얼마나 투명하고 책임성이 있을까?

A: 투명성을 확보하려면 먼저 개인정보 수집 및 활용이 투명해야 한다. 일각에서는 작동 알고리즘을 공개해야 한다고도 한다. 마이다스인의 AI역량검사는 개인정보의 경우, 응시를 위해 이름과 응시코드만 입력 받는다. 또 영상 녹화 등의 사항은 응시 전에 지원자들에게 정확히 안내, 동의를 받고 있다. 일반적으로 딥러닝(AI)은 블랙박스라 투명성 시비를 불러일으킨다. 딥러닝은 어떤 데이터가 피처(feature)로 사용되는지 알 수 없고, 또 입출력 관계를 설명하기 힘들기 때문이다. 반면 마이다스인의 AI역량검사는 딥러닝을 사용한 블랙박스가 아니라 전통적 선발검사의 분석 방법과 기계학습 기반의 설명 가능한 분석 방법을 사용했다. 소통역량 분석과 커스터마이징에서 기계학습(machine learning)을 적용했다. AI의 블랙박스 문제를 탈피하기 위한 것으로, 채용은 공정하고 투명해야 하기 때문이다. 실제 AI역량검사는 명확하게 정의한 피처만 사용하고, 또 입력 데이터와 결과간 관계도 딥러닝과 달리 설명이 가능하다. 또한 AI역량검사 핵심인 성과역량 검사는 AI기술을 사용하지 않으므로 투명성과 공정성 이슈에 해당되지 않는다는 게 마이다스인 설명이다. 또 마이다스인은 백서에서 최소한의 기밀을 제외하고 작동 알고리즘과 분석 방법, 객관성과 중립성 확보 방안과 정확도까지 모두 공개했다. 투명성과 책임성을 다하기 위해서다.

Q: 최근 해외서 AI차별이 채용시 문제가 됐는데 AI역량검사는 공정할까?

A: 미국에서는 채용할때 특히 인종 차별이 문제가 됐다. 우리나라는 인종 문제 보다 성별, 학력, 지역이 더 논란이 될 소지가 크다. 성별, 학력, 지역의 공정성은 부가 블라인드 채용에서 강조하는 내용이기도 하다.  마이다스인 백서에 따르면, AI역량검사에는 이런 차별과 관련된 정보들을 입력 데이터와 결과 레이블링에서 아예 사용하지 않는다.

특히 채용 공정성은 나라마다 문화와 관습이 다르니 절대 비교보다 상대비교로 접근해야 한다. 해외와의 비교가 아니라 한국의 기존 채용 방식과 비교해야 한다. 보통 우리나라의 채용은 서류심사, 인적성 및 필기 검사, 면접 등의 절차로 이뤄진다. 학교∙자격증∙어학점수를 따지는 서류심사와 성격∙상식을 측정하는 인적성 검사, 다수를 상대로 짧은 시간 동안 이뤄지는 면접이 진행된다. 몇 해 전부터 정부가 공공기관 채용에 '블라인드 채용'을 적용한 것은 기존 채용방식이 편견∙편향의 문제를 낳을 수 있다고 봤기 때문이다. AI역량검사는 상대적으로 기존 채용방법보다 편견 및 편향이 적고 보다 공정하며, 또 기존 채용 방식에서 진보했다는게 마이다스인 입장이다.