'이루다' 학습효과?...금융업계, 챗봇 단도리에 적극 나서

전담팀 꾸려 검수하면서 데이터 학습시켜

인공지능(AI) 기반 챗봇 '이루다'가 사회적으로 파장을 일으킴에 따라 금융업계가 챗봇으로 인한 말썽 소지를 없애기 위해 단도리에 나서고 있다.

챗봇 전담팀을 꾸려 챗봇이 대답하지 못한 질문에 답을 학습시키거나 부적절한 답변을 걸러내는 등의 검수 작업을 벌이고 있는 것이다.

21일 은행권에 따르면 현재 AI 챗봇 서비스를 제공하고 있는 시중은행은 신한은행·KB국민은행·하나은행 등이다. 

신한은행은 챗봇 '오로라' 전담팀을 7명으로 구성했다. 

전담팀은 고객 질문을 매일 리뷰하고 오로라가 질문의 의도를 파악하지 못한 답변을 하거나 새로운 형태의 질문이 있을 경우 이를 스크랩해 오로라를 학습시키는 일을 주로 한다. 또 특별한 경우에는 사람이 일부 개입해 성희롱이나 욕설과 같은 데이터를 AI가 학습하지 않도록 하고 있다.

하나은행과 스캐터랩이 협업해 만든 '하이'챗봇.(사진=지디넷코리아)

KB국민은행은 사람이 하는 전화상담 내용을 통해 AI 챗봇을 학습시키고 있다.

KB국민은행 관계자는 "최근 논란이 된 '이루다'는 정제되지 않은 대량의 데이터를 스스로 딥러닝하는 비지도학습 방식이지만 KB국민은행 챗봇은 전화상담, 상담사와의 채팅상담 대화 내용으로부터 사람이 학습데이터를 지도하는 방식"이라고 설명했다.

하나은행은 AI 챗봇의 일상 대화 수준을 높이기 위해 이루다 개발사 스캐터랩과 협업했지만, 답변 여부를 은행 부서별로 검수하고 있다. 

하나은행 관계자는 "고객의 신뢰를 토대로 하는 은행에서 잘못된 대답이 나가면 큰 타격을 줄 수 있다"며 "현재 이 부분에서도 이루다 같은 이슈가 나오지 않도록 하나은행 측이 자체 인력을 투입해 답변을 모니터링한다"고 설명했다.

시중은행들은 챗봇을 통해 들어오는 답변이 대부분 금융과 연관된 것인 만큼, 이루다와 같은 논란은 적을 것으로 보고 있다. 다만 최근 이루다 논란으로 AI 챗봇의 알고리즘에 대한 취약성을 사전에 검증하는 작업이 필요하다는 주장도 제기됐다.

KB국민은행 관계자는 "이루다와 같은 비지도학습 방식의 AI 챗봇은 다양한 표현 등엔 강점이 있지만, 실시간으로 변하는 상품과 제도 변화에는 즉각적으로 대응이 어렵다"며 "금융 사고 가능성이 있기 때문에 금융업권의 챗봇은 이루다와 다른 방식으로 구성돼 문제 가능성은 적다"고 진단했다.

금융보안원 홍시환 보안연구부 연구총괄팀장은 "이루다의 경우 대화를 통해 학습하는 AI 언어 모델에 관한 보안대책이 없다보니 의도하지 않은 결과가 나온 것으로 보인다"며 "AI 챗봇을 활용하는데만 집중하고 있는데 어떤 언어 모델을 쓰느냐, 공격에 대한 사전 검증과 제3자 검증이 필요한 시점"이라고 진단했다.