AI가 내 대출 심사, 어떻게 믿지?

세부 안내서 나와…"신용평가모형 사전에 위험 수준 체크"

대출 심사나 대출 고객의 신용을 평가하는 분야에서 인공지능(AI) 기술이 도입되는 가운데, 금융감독당국이 금융분야 AI 가이드라인을 구체화한 세부 안내서를 내놨다. 

5일 '금융분야 AI 개발·활용 안내서'를 살펴본 결과 사람 대신 AI가 모든 걸 판단하는 고위험성 AI의 경우 내부통제를 수립해야 하며 신용평가모형의 위험 수준을 자체적으로 판단해야 한다는 내용이 담겼다.

안내서에 따르면 AI가 가져올 잠재적 위험을 사전에 평가할 것을 권고하고 있다. 

지난해 AI 챗봇 '이루다'를 통해 AI가 윤리적 문제를 일으킬 수 있다는 점이 증명됐기 때문에 이를 사전에 막을 수 있는 보완 장치가 필요하다는 것이다. 금융사의 챗봇이 개인 권익이나 자유를 침해하고, 심사에 있어 특정 성별과 연령대 등을 차별하지 않는지를 확인해야 한다. 

(사진=이미지투데이)

A보험사는 개인의 권리에 중대한 위험을 초래할 수 있는 고위험 서비스를 관리하기 위해, 관리자를 지정하고 내부통제 및 승인 절차를 마련 중에 있다. 

B은행은 AI 시스템의 위험 수준을 평가할 수 있는 기준을 마련하고 개인 권리에 위험을 초래할 수 있는 지 매년 1회 이상 주기적으로 점검한다는 방침을 세웠다.

여신(대출) 평가 역시 AI가 수행하는 경우가 더욱 늘 것으로 관측되면서, AI 기반 여신 평가가 얼마나 적합한지와 잠재적 리스크도 사전에 확인할 것을 금융당국은 권고했다.

C은행은 AI가 여신 평가에 얼마나 개입하느냐에 따라 위험도를 세분화했으며, 이를 통해 AI 여신 평가 시스템을 관리한다는 입장이다. ▲대출(여신) 평가의 의사 결정을 AI가 전부 수행하는 고위험 ▲의사 결정 과정에 사람이 개입하지만 AI 시스템이 고객에게 부정적인 영향을 미칠 경우 중위험 ▲의사 결정 과정에 사람이 개입하며 고객에게 유리한 방향으로만 AI 시스템이 쓰일 경우 저위험으로 나눴다.

D금융지주는 계열사의 신용평가·여신심사에 AI를 도입하는 경우, 고객에게 발생할 수 있는 영향과 위험 수준을 평가하는 중이다.