美 재무장관이 예측하는 AI 금융 위험성은?

재닛 옐런 "AI, 불투명·편향적·소수 빅테크 전유물"

미국 재무장관이 인공지능(AI)이 금융권에 미치는 위험성 주제로 연설을 진행한다. AI가 불투명하며 편향적이고, 소수 빅테크 전유물이라는 점을 주요 위험으로 지적할 방침이다.

6일 미국 CNN에 따르면 재닛 옐런 미국 재무장관은 이날 브루킹스 연구소가 주최하는 컨퍼런스에서 AI 금융의 위험에 대해 이같이 발표한다. 연설은 전 세계 생중계될 예정이다.

재무부 관계자는 "이번 회의에 규제 당국과 은행 관계자, 빅테크 임원, 자산 관리자, 보험사, AI 학계, 시민 단체 등이 참석할 것"이라며 "옐런 장관은 이번 연설을 통해 AI가 금융 시장에 어떤 기회와 위험을 줄 것인지 알릴 계획"이라고 밝혔다.

재닛 옐런 미국 재무장관.(사진=뉴시스)

사전 공개된 연설문에 따르면 옐런 의장은 AI 모델의 복잡성과 불투명성이 문제를 일으킬 수 있다고 지적할 계획이다.

보통 AI 모델은 '블랙박스'처럼 작동한다. AI가 내린 결과에 대한 정확한 과정이나 원인을 명확히 설명할 수 없다. 예를 들어 은행권이 틀린 결과를 내는 도구에 의존할 경우 시장 움직임이 악화할 수 있다. 이에 은행은 금융 시스템을 AI에 얼마나 의존해도 될지 파악하기 힘들다. 옐런 의장은 이 점을 강조할 예정이다.

그는 AI 모델을 제공하는 회사가 소수라는 점에도 주목할 방침이다. 한 개발사가 파산하거나 모델을 없애면 이 회사 모델을 활용하던 금융권도 치명타를 입을 수 있다는 점에서다.

외신은 이날 옐런 장관이 AI 알고리즘의 편향성도 지적할 것으로 봤다. 잘못된 데이터가 AI 모델에 들어갈 경우 금융권에 새로운 편견을 만들 수 있어서다. 예컨대 사람이 아닌 AI가 대출 대상자를 정할 때 인종이나 성별로 인해 편향적 결과를 낼 수 있다.

물론 재닛 옐런 의장은 AI가 기존보다 저렴하고 편리한 금융 서비스를 만들 수 있다는 점도 강조할 예정이다. 그는 "은행은 금융 사기를 방지하고 고객 서비스를 업그레이드하는데 AI를 엄청난 기회로 생각하고 있다"며 "이는 부인할 수 없는 사실"이라고 주장할 방침이다.

재무부 관계자는 "현재 미국금융안전위원회(FSOC) 등은 이미 AI가 금융권에서 어떻게 사용되고 있는지 모니터링하고 있다"며 "AI가 금융 시스템에 어떻게 위협을 초래할 수 있는지 알아내기 위해 노력하고 있다"고 말했다.