거짓말하는 생성형AI, 내 투자는 누가 책임지나?

생성형 인공지능(AI)이 전 세계를 강타하면서, 우리나라 금융사도 조금씩 생성형AI를 업무에 도입하고 있다. 오는 10월 망 분리 규제 완화가 이뤄진다면 생성형AI가 광범위하게 이용될 것으로 관측된다. 이에 앞서 생성형AI로 인한 리스크에 대한 선제적 관리·감독 방안이 필요한 것으로 보인다.

한국금융연구원이 주최한 '미래의 거대트렌드가 가져올 금융의 변화' 세미나에서 자본시장연구원 이효섭 금융산업실장은 "기술이 발전하면서 금융산업도 변화하고 있다"며 "생성형AI와 클라우드가 쓰이면서 금융산업에 미칠 리스크 요인들도 상존하고 있는 상황"이라고 진단했다.

가장 대표적으로 꼽히는 것은 개인 및 회사의 중요 정보가 유출될 위험이 있다는 것이다. 데이터 유출은 빅데이터가 거론됐던 때부터 리스크로 늘 꼽혀왔다. 생성형AI에서는 이보다 더 나아가 데이터 자체 문제로 생길 수 있는 문제도 추가된다. 이효섭 실장은 "거짓 정보 또는 과잉 정보 생성으로 인한 위험으로 학습한 데이터가 사실이 아니거나 최신 정보로 업데이트 하지 않은 경우 생성형AI가 사실과 다르게 데이터를 생성할 수 있다"고 말했다.

또 금융안정성면에서도 리스크가 생길 수 있다. 이 실장은 "생성형AI 활용 시 알고리즘 오류가 발생하거나 알고리즘이 지배력을 가질 경우 금융시장 변동성이 활대될 개연성이 있다"고 부연했다.

금융위원회 김소영 부위원장 역시 "생성형AI로 개인 정보가 누설되거나 딥페이크 기술을 이용한 금융 사기, 금융 정보 유출 위험이 있다"며 "생성형AI가 사실과 다른 정보를 생성해 의사 결정의 왜곡이 일어나고 사회적 신뢰 훼손이 이뤄질 가능성도 있다"고 짚었다.

현재까진 망 분리 규제로 인해 금융권의 생성형AI 도입은 제한적인 상황이다. 오픈된 대규모 언어 모델(LLM)을 쓸 수 없는 물리적 상황이기 때문이다. 하반기 금융사에 제한적이나마 망 분리 규제 완화 가능성이 높아져 생성형AI에 관한 가이드라인이 우선돼야 한다는 업계의 우려도 나오고 있다.