"금융권 AI 알고리즘 보안 이슈 대두"

하나은행 이주환 정보보호본부 상무 "AI 이용 데이터 오염·모델 추출 등 대처해야"

우리나라 은행들이 인공지능(AI)을 통한 서비스 확대에 나서고 있지만, AI 알고리즘의 보안 이슈가 동시에 대두되고 있다는 진단이 나왔다.

20일 한국경영학회·한국증권학회가 온라인을 통해 연 '초거대 인공지능&금융(AI&Finance)' 세미나에서 하나은행 이주환 정보보호본부 상무는 "AI 기술들이 은행에서 어떻게 활용할 수 있을지를 고민하고 있다"면서 "금융쪽에서는 AI 알고리즘 보안 이슈가 떠오르고 있다"고 말했다.

그는 "요즘 금융당국과 이야기를 나눠보면 챗GPT를 통해 은행을 어떻게 공격할 수 있는지 등을 묻는 잠재적인 범죄자가 많이 양성되고 있다"며 "사이버 공격에 대한 허들이 낮아졌다 할 정도로 자세히 나와있어서 조심스럽게 접근하고 있다"고 운을 뗐다.

(사진=이미지투데이)

이 상무는 "AI 공격 중 기능 추출과 모델 역전 등의 공격과 오염된 데이터를 통한 것들이 이뤄지고 있다"며 "데이터를 정정하고 AI 모델을 역추론하는 사이버 공격을 막는 방법들에 대해 고민이 이어지고 있다"고 설명했다.

AI 공격 모델 중 기능 추출형은 모델의 입력값과 출력값을 비교해 모델을 복제하는 공격이며, 모델 역전은 주어진 입력에 대해 출력값을 내는 AI 모델의 분류 결과와 신뢰도를 분석해 학습데이터를 복원하는 공격이다.

이어 그는 "실제로 보험 상품 추천 알고리즘을 생성형 AI로 만들었는데 데이터 자체가 적대적으로 만들어지면 고객이 원하는 것과 다른 상품만 추천한다는 등의 논의가 나온 사례가 있다"고 부연했다. 

다만 하나은행서는 자연어처리기술(NLP)를 이용해 고객 센터를 AI화하는데 박차를 기울이고 있다고 전했다. 이 상무는 "콜봇과 챗봇 등에 컨텍스트를 분석하고 NPL 기술을 통해 AI 기반 질의응답 정확도는 85%"였다고 말했다.