금융 AI 서비스 제공 시 별도 책임자 지정하고 관리해야

금융위, 가이드라인 마련...차별·개인정보침해 금지하고 소비자 설명 요구권도 담아

금융위원회는 금융분야 AI 워킹그룹을 통해 2020년 7월부터 논의한 결과 금융분야 AI 가이드라인을 마련, 연내 시행될 수 있도록 할 방침이라고 8일 밝혔다.

이번 가이드라인은 크게 ▲AI 이용 시 금융사 내부 통제 장치 마련 ▲AI 학습 데이터 관리 ▲AI로 인한 불합리한 차별 방지 ▲AI 서비스에 대한 충분한 설명 및 소비자 권리 보장으로 나뉘었다.

■ 가이드라인 적용 대상, 빅테크까지 포함

(사진=이미지투데이)

AI 가이드라인은 전 금융업권을 대상으로 적용된다. 하지만 AI를 직·간접적으로 활용해 금융상품 추천, 신용평가 등 금융연관 서비스를 제공하는 업무를 하는 경우 비금융사에도 이 가이드라인이 적용된다. 즉, 해당 금융 서비스를 하는 빅테크도 가이드라인을 준수해야 하는 셈이다. 

가이드라인 내 실무지침은 은행·보험·금융투자 업권 등 대형 금융업권을 위주로 마련될 계획이다. 이번 가이드라인은 금융소비자에 영향을 미치는 AI 활용 금융서비스이기 때문에 금융사 내부 AI 활용은 배제됐다.

■ AI 의사결정 미치는 영향 클 경우 별도 책임자 지정해야

금융사가 AI를 활용한 서비스를 소비자에게 제공할 때 금융 거래 계약의 체결이나 유지에 영향을 미칠 땐 별도 책임자를 지정해 관리해야 한다. 

예를 들어 대출 만기 연장 여부 등 대출 심사나 대출 금리를 결정할 수 있는 신용평가, 카드 발급 및 보험 심사 등이 해당된다. AI 시스템 관련 승인 책임자는 금융사가 개별적으로 지정하되 최고위험관리책임자(CRO)나 최고정보보호책임자(CISO) 등 유사 직책 임원이 겸직할 수 있다. 금융사는 AI 감독이나 통제가 가능하도록 설계해야 하며 주기적으로 모니터링해야 하는 내부 통제 시스템을 갖춰야 한다. 

■ AI 활용이 차별로 이어져선 안돼

AI 활용 결과가 기본권을 침해하거나 집단간 차별로 이어지지 않도록 시스템 운영과정에 나타날 수 있는 위험 요인도 통제해야 한다. 

2019년 애플사가 발급한 애플카드가 동일 신용도에도 불구하고 남성의 신용카드 한도가 여성 대비 10~20배 이상 높게 설정되는 AI 차별 이슈가 불거짐에 따라 금융 소외 계층에 대한 차별로 이어질 수 있는 위험을 선제적으로 차단하겠다는 차원에서다.

정책금융상품 처럼 결과적 평등이 중요한 금융상품의 경우 AI 활용 시 대출 승인율을 인구통계적 동등성 지표를 기준으로 평가하거나 신용평가, 카드발급 심사는 기회의 평등 기준으로 AI 서비스가 개발됐는지 점검해야 한다.

■ AI 학습 데이터 개인정보보호 침해해선 안돼

최근 AI 챗봇 '이루다' 사태를 계기로 학습 데이터의 품질 검증과 더불어 학습 데이터가 개인정보를 침해하지 않는 범위서 이뤄져야 한다는 내용도 이번 가이드라인에 담겼다.

AI 학습 데이터의 데이터 출처를 정확히 파악하고 데이터 품질, 편향되지 않는 학습 데이터 확보 등 데이터 관리가 이뤄져야 한다. 사생활이나 민감정보 등을 활용할 경우 비식별 조치를 충분히 해 개인정보가 침해되지 않도록 해야 한다.

■ 소비자, AI 평가 기준 설명 요구할 수 있어

소비자는 AI 평가 결과 및 주요 평가기준, 사용된 기초정보에 대한 설명을 들을 수 있다. 또, AI 평가에 활용된 자신에 대한 정보 정정·삭제, 결과 재산출을 요구할 수 있다. 금융사는 금융소비자에게 AI가 이용된다는 사실을 사전 고지해야 한다.

금융위 도규상 부위원장은 "금융산업은 신뢰 기반 산업으로 AI가 내린 신용평가, 대출심사 등 결과가 우리사회의 상식과 사회규범에 어긋나는 일이 없어야 한다"며 "AI 기술의 발전 등을 반영하지 못한 금융 규제가 없는지도 점검해 AI 금융서비스 제공에 장애가 되지 않도록 하겠다"고 말했다.