올해 금융권 키워드 'AI'..."기술·윤리 문제 따져봐야"

구글 기술고문인 레이 커즈와일(Ray Kurzweil)은 2045년이 되면 인공지능(AI)이 인간을 넘어서는 특이점이 올 것이라고 예측했다.

이에 따라 인공지능을 둘러싼 법적·윤리적 논의들이 한창 진행 중이다.

국내 금융사도 올해 인공지능을 활용한 투자 포트폴리오 서비스 '로보어드바이저'와 상담 서비스 '챗봇'을 대대적으로 활용하겠다고 예고, 이 같은 논의가 사전에 필요하다는 주장이 나오고 있다.

민감한 개인 및 금융정보를 인공지능이 가공하는 만큼, 다양한 법적 장치가 필요하다는 지적이 국내에서도 논의되고 있다. 인공지능의 잘못된 작동으로 입는 피해를 누구에게 물을 것인지, 윤리적으로 올바르지 않은 일을 할 때에 알고리즘 문제를 어떻게 봐야 할지를 따져봐야 한다는 부연이다.

■ 인공지능의 잘못…책임은 누구인가

최근 금융보안원은 금융업권이 인공지능을 사용할 경우 야기할 수 있는 리스크에 대비해야 한다고 당부했다. 이들은 인공지능 기반 챗봇 등 인공지능 금융서비스의 취약성 또는 부작용으로 인한 고객 개인정보 유출 위험성, 인공지능 금융서비스의 문제로 인한 개발사·운영사·고객 사이의 법적 책임 공방이 발생할 수 있다고 지적했다.

실제 작년 2월 11일 미국 주식시장에서는 인공지능 알고리즘 매매가 한꺼번에 매물을 쏟아내 미국 다우지수가 전일 대비 4%까지 급락했다. 이 경우 투자 손실을 본 피해자들은 책임 소재를 정확히 하기 위해 법적 공방을 펼칠 수 밖에 없다.

이 같은 사태를 방지하기 위해 금융보안원은 "금융사는 다방면으로 대응방안을 구축할 필요가 있다"고 진단했다. 기술적으로는 인공지능을 활용한 보안 기술에 대해 고도화나 자동화를 구축해야 하고, 고객 인증 시 최신 인증 기술을 도입하는 게 좋다는 것이다. 또 해킹 등 공격자가 인공지능을 활용해 공격할 때를 대비해야 한다는 것이다.

유럽연합과 미국 등에서는 인공지능에 법적 인격을 부여하거나 책임 소재 설정을 위해 다양한 정책들이 논의 중이다. 유럽연합서는 인공지능의 법적책임과 관련해 '전자인간'의 지위를 부여할 지를 따져보고 있으며, 미국에서는 인공지능 오작동으로 인한 피해를 예방하기 위해 공정성과 책임 문제를 연구 중이다.

한국인터넷진흥원의 김윤정 연구원은 "인공지능 오작동 등으로 인한 피해에 대해 기술의 발전을 저해하지 않으면서 법적 책임소재를 명확히 설정하기 위해서는 다양한 행위 혹은 관리주체들 간의 합의를 바탕으로 이해와 책임 관계를 면밀히 설정해 해결할 필요가 있다"고 설명했다.

■ 인공지능의 비윤리적 일탈, 어떻게 봐야 하는가

그러나 인공지능 활용 시 보안적, 기술적 문제만 있는 것은 아니다. 인공지능 챗봇의 인종차별 및 특정 인종 증오 현상, 인공지능 기반 챗봇 등 금융서비스의 취약성 또는 부작용으로 인한 개인정보유출 등의 문제도 있다. 윤리적인 문제의 경우 법적 테두리에서 해결하기 어려워 사회적 합의에는 시일이 걸릴 것으로 보인다.

금융보안원도 이 같은 윤리적 문제에 대해 언급했다. 금융전문가와 인공지능 연구자, 보안기술자, 정책입안자, 윤리학자 등이 한자리에 모여 인공지능의 윤리에 대한 사회적 합의를 이뤄야 한다는 것이다.

국외에서도 인공지능의 윤리적 문제에 대해서 토론을 이어나가고 있지만 사전적 방지를 위해 법을 제정하진 않았다. 일본은 인공지능 개발자의 윤리적 가이드라인을 만드는데 그쳤으며, 미국 등도 윤리적 준수 여부에 대한 지침서를 만들었다.