"AI 오작동 대책 서둘러야…금융보안도 중요"

"이제 금융 산업은 사이버위협에 대한 대비 없이 비즈니스 자체를 생각하기 어려워졌다. 보안이 모두의 삶 속에서 인식되고 실제로 작동해야 한다는 의미에서 올해 피스콘의 핵심 부제를 '미래 금융 전략, 금융보안 프렌들리'로 선정했다.”

김철웅 금융보안원 원장은 9일 여의도 콘래드 호텔에서 금융정보보호 컨퍼런스 ‘피스콘(FISCON) 2023’에서 위와 같이 말하며 금융 보안의 중요성을 강조했다.

김 원장은 이어서 “최근 사이버공격은 국가배후 조직으로 확대되며 공격 기술이 기존과 비교하기 어려울 만큼 향상되어 더욱 우려스러운 상황"이라며 "이제는 고연령층이나 장애인 등 디지털 취약계층까지 고려한 보안 전략을 기반으로 보안을 생활해야 할 시기"라고 강조했다.

피스콘은 금융보안 트렌드 및 정책·기술∙대응 등 디지털금융의 정보 교류를 위한 민·관·산·학·연 모두가 참여하는 금융보안 전문 컨퍼런스다.

올해는 국내 보안기업을 비롯해 미국과 일본의 금융보안 전문가가 참석해 글로벌 사이버위협 동향과 최근 주목받는 인공지능(AI) 기반 기술에 대해 소개했다. 또 금융산업에서는 이런 상황을 어떻게 다뤄야 할지에 대한 발표가 진행됐다.

특별 강연에서는 금융보안원 박진석 상무가 ‘국내외 AI위험성 관련 사례 및 금융권 AI 컴플라이언스’라는 주제로 최근 발생한 AI 관련 사고와 함께 안전하고 정확한 금융권 AI를 개발하기 위한 국내외 조직들의 활동 내역을 소개했다.

최근 한 농산물 작업장에서 작업자가 사람을 박스로 오인한 AI기반 로봇에 의해 사망하는 사고가 발생했다. 또 음성 챗봇은 어린 소녀에게 목숨이 위험한 행동을 장난으로 소개하는 등 AI의 행동이 발견되고 있다.

또한 실제와 다른 정보를 알려주거나, 사전에 학습된 개인정보가 다른 사용자에게 노출되는 등 안정성면에서도 문제를 드러내고 있다.

전문가들은 AI가 인간에게 치명적인 피해를 일으킬 수 있는 만큼 팬데믹이나 핵무기와 동일한 수준의 규제와 보안 시스템을 구축해야 한다고 주장하고 있다.

유럽은 지난 6월 인간을 위협할 수 있는 AI 기술을 규제하는 법안을 통과시켰다. 규제안은 개인정보 침해, 정치적 편향 등에 활용될 요소를 제한하며 이를 어길 경우 최대 수조원에 달하는 징벌적 벌금이 부과된다.

자율규제 사후책임을 기본 원칙으로 하던 미국 역시 위험성을 규제하기 위한 기반을 마련하고 있다. 지난달 바이든 행정부는 인류에 위협이 될 수 있는 첨단 AI 개발의 경우 안전 테스트 결과를 정부에 우선 공유해야 한다는 행정명령을 발표하기도 했다.

박진석 상무는 금융보안원도 현재 금융회사가 안전하게 AI모델을 설계, 학습하고 운영할 수 있는 환경을 마련하기 위해 준비 중이라고 밝혔다.

그는 “지금 금융권에서 필요한 합성데이터를 생성해 제공하는 방안과 평가기준 마련을 검토하고 있다”며 “검토 결과가 나오면 세부판단 기준을 마련해 평가검증을 실시할 수 있도록 지원하려 한다”고 말했다.

일본 금융 정보공유분석센터(F-ISAC)의 세코 토시노리 정보보안 애널리스트와 미국 금융부문 정보공유분석센터의 앤디 초 정보보안 책임자가 각각 일본과 미국의 금융권 사이버위협 동향을 소개하며 국내 금융 기업의 대응 방안을 제시했다.

오후 세션은 디지털금융 및 금융보안 관련 전략, 기술, 대응 등 세 분야로 나누어 총 18개 발표가 진행됐다.

전략 분야에서는 금융권 망분리와 클라우드 규제 현황 등 국내 디지털 금융 정책과 규제 동향에 대한 내용이 소개됐다.

기술 분야에서는 챗GPT 등 AI 기술을 활용하기 위해 필요한 기반 기술과 신뢰성을 높이기 위한 기술을 비롯해, 다크웹에 특화된 보안전용 AI모델 등이 제시됐다.

대응 부문에서는 최근 발생한 국내외 사이버공격 사례를 바탕으로 이를 막기 위한 방안과 보안 시스템을 확인할 수 있었다.

또한, 비공개세션에서 모의해킹, 네트워크 데이터 기반 사이버 위협 헌팅, IT검사 지적 사례 및 이슈사항 등 최신 금융보안 관련 현안을 다뤘다.

관련기사