'증권사 사칭 의심' AI 도입했더니 카카오 불법금융방 적발↑

금감원 "플랫폼 불법금융광고 책임 부과 법제화"

온라인 플랫폼이 인공지능(AI) 등을 통해 불법 금융 광고를 막기 위한 노력을 기울이면서, 적발 규모가 대폭 확대된 것으로 조사됐다.

금융감독원은 이에 그치지 않고 플랫폼에서 불법 투자 권유와 같은 불법 금융 광고로 인한 피해를 줄이기 위해 플랫폼에 책임을 부과하는 법제화 마련에도 착수할 예정이다.

6일 금감원은 카카오가 금융사 임직원을 사칭해 금전을 요구하는 행위를 잡는 AI 기반 고도화 프로그램 '페이크 시그널' 도입 이후 이 같은 불법 리딩방, 불법 금융 행위를 잡는 건이 크게 늘었다고 밝혔다.

(자료=금융감독원)

2024년 하반기부터 올해 상반기까지 카카오톡서 페이크 시그널을 통해 불법 투자 권유 및 사칭·사기 행위 제재 재건은 22만734건으로 2023년 하반기에서 2024년 상반기 13만183건 대비 9만551건(69.6%)나 증가했다.

페이크 시그널은 카카오의 '안티 어뷰징 시스템'에 AI 및 머신러닝 기술을 결합한 것으로 카카오톡 프로필 정보와 계정 및 사용이력 등을 분석하고 사칭 가능성이 높은 프로필을 자동으로 탐지한다. 의심 계정 프로필일 경우 팝업을 띄우거나 프로필 이미지에 경고 표시를 노출한다. 더 나아가 채팅방 상단에 사기계정을 신고할 수 있는 방법도 안내한다.

범죄 집단은 플랫폼을 통해 불법 리딩방 가입을 권유해 자금 편취하거나 불법 투자 권유 및 사설 트레이딩 시스템(HTS, MTS 등) 설치·이용을 유도해 금융 사기를 친다.

금감원은 이 같은 성과를 확인했지만 아직까지 '자율 규제'라는 점에서 보완할 부분이 있다고 판단했다. 자율규제를 도입하지 않은 플랫폼으로 불법 금융 광고가 옮겨갈 수 있기 때문이다. 

금감원 측은 "온라인 플랫폼에 대한 불법 금융 광고 유통을 방지하는 의무를 부과하는 등 온라인 플랫폼에게 책임을 부과하는 제도가 조속히 법제화할 것"이라고 밝혔다.