400만 토스증권 커뮤니티 AI 큐레이션 도입?…투자자 보호 과제

회사 "AI 종목추천은 AI책임"…감독당국 "규제없어"

토스증권이 투자 커뮤니티에 생성형 인공지능(AI) 콘텐츠 큐레이션을 도입한다. 게시글과 이미지를 AI가 읽어 종목 연관성과 콘텐츠 유형·분위기·위험요소 등을 구조화해 서비스한다는 계획이다.

기존 토스증권이 운영해왔던 커뮤니티 배지 체계와 AI 큐레이션이 맞물려 투자자 추종매매(뇌동매매)를 부추기거나 문제 소지가 있는 콘텐츠를 추천해 투자자가 피해를 입을 수 있는 가능성이 있다.

AI 큐레이션+배지 체계 결합한다면…

토스증권 로고

토스증권 커뮤니티는 월간 이용자가 약 400만명이다. 토스증권에 따르면 매매 이용자 80% 이상, 거래 대금 기준 97% 이상이 커뮤니티를 활용한다. 이 커뮤니티에 토스증권은 '배지 체계'를 올해 1월 개편했다. 전월 판매수익금을 기준으로 '수익금 상위 5%' '수익금 상위 1%' 배지, 계좌 보유 자산 수준에 따른 '1억대 자산가' '5억대 자산가' '10억대 자산가' 배지를 부여하는 방식이다.

배지 체계가 전적으로 문제인 것은 아니다. 그렇지만 수익금 상위와 자산 수준이 수익률로 직결됐다고 보긴 힘들다. 그럼에도 커뮤니티 화면에는 배지를 단 투자자의 성과와 의견이 함께 제시된다. 계좌 잔고와 과거 투자 내역을 바탕으로 한 배지가 '투자 의견 신뢰'를 부여하는 격이다.

여기에 AI 큐레이션까지 결합된다면 어떨까. AI 알고리즘이 배지를 단 투자자 의견을 우선순위로 삼는다면, 추종매매할 확률을 높이는 것이다. 일각에선 네이버페이 증권이나 유튜브 등 외부 플랫폼에서도 수많은 종목 추천과 수익 인증이 이뤄져 토스증권 큐뮤니티만의 문제는 아니라고 지적한다.

그러나 유튜브나 외부 종목토론방은 글이나 영상 내용을 확인한 후 다시 증권사 트레이딩 시스템에 주문을 넣는 지연 과정을 거지만, 토스증권은 AI가 골라준 추천 글을 읽은 후 화면 하단에 있는 매수 버튼을 누를 수 있게 설계된다. 정보 확인에서 매매 실행까지 바로 이어지는 원스톱 구조다.

주요국, '디지털 참여 관행' 경각심

해외선 증권사가 자사 앱 내부에서 직접 운영하는 투자 커뮤니티와 AI·디지털 노출 설계를 별도의 투자자 보호 영역으로 보고 있다.

미국 증권거래위원회(SEC)는 지난 2023년 알고리즘과 AI 큐레이션 등 '디지털 참여 관행(DEP)'이 유발하는 이해상충을 강제 통제하는 예측 데이터 분석(PDA) 규제안을 제안했다, 업계 반발에 2025년 6월 해당 안을 공식 철회했다.

디지털 참여 관행(DEPs·Digital Engagement Practices)은 증권사나 투자자문사가 모바일 앱이나 웹 플랫폼에서 투자자 거래를 유도하기 위해 사용하는 모든 디자인 요소를 의미한다. 예를 들어 거래가 체결되면 폭죽 효과가 나는 등의 게임적인 요소, 목표 설정 가격 도달 시 알림 푸시, 맞춤형 추천 리스트 등이 포함된다.

규제안은 철회됐지만 SEC와 미국 금융산업규제국(FINRA)은 증권사 내부 포럼과 디지털 참여 관행은 플랫폼 이익과 투자자 장기적 이익이 이해충돌할 수 있다고 짚었다. 증권사 내부 커뮤니티는 추종매매나 밈 주식 거래로 이어질 수 있다고 지적했다. 불법 리딩방은 사법적 단속망에 걸리는 범죄이지만(자본시장법상 불공정거래행위), AI 알고리즘과 소셜 배지가 결합한 일종의 디지털 참여 관행은 플랫폼 서비스가 일부 투자자를 '시스템적으로 선동'할 수 있는 트리거가 될 수 있는 셈이다.

(사진=제미나이)

AI 발전 속도 비해 규제·책임의식 부재

즉, 토스증권이 운영하고 있는 커뮤니티 배지 체계와 AI 알고리즘이 자극적인 투자 의견을 우선 노출할 경우 플랫폼과 투자자 간 이해상충을 가져올 가능성을 전혀 배제하긴 어려운 것이다.

토스증권 역시 커뮤니티 내 추종매매 가능성을 관리 대상으로 두고 있다. 회사 측은 거래내역을 분석해 허위 정보나 리딩방, 도배글, 선행·추종매매 유도 행위를 실시간 감지해 제재하는 방어적 모니터링을 진행 중이라 밝혔다. 

그럼에도 의문은 남는다. 규정을 위반하지 않은 정상적인 게시물 중 플랫폼이 무엇을 상단에 우선 노출할 것인가에 대한 것이다. 

토스증권은 AI 서비스에 대한 감독규정이 없는 '회색지대'라는 점을 인지하고 있다. 관계자는 "AI 자체가 (규정 등에서) 불안하거나 모호한 부분이 있어 (회사도) 어렵다"며 "API를 통한 AI 종목 추천이나 포트폴리오 추천도 누가 제안하느냐 여부에 따라 투자자문이나 일임의 영역으로 넘어간다"고 설명했다. 이어 이 관계자는 "법적으로도 애매한 부분이 있는데 AI 종목추천 등은 챗GPT나 클로드가 데이터를 갖고 계산해서 오기 때문에 회사 입장에서 (회사가 추천한다고) 어려운게 있다"며 "그레이존에 있다"고 말했다. 플랫폼 내부에서 수익을 위해 AI를 활용하고 있지만 종목추천 서비스에 대한 책임은 AI가 지는 구조라는 부연이다.

또 토스증권 측은 이번 커뮤니티 이용약관 개정에 명시된 AI는 게시물을 추천하거나 상단에 노출하기 위한 큐레이션 알고리즘이 아니고, 약관과 커뮤니티 규칙을 위반한 콘텐츠를 찾아내기 위한 검증 수단이라고 밝혔다. 작성자 배지나 자산 규모가 가중치로 반영되는 구조와 관련이 없다고 강조했다.

아직까지 국내에는 플랫폼의 알고리즘 넛지(Nudge) 전략을 통제할 법적·제도적 해법이 부재하다. 그나마 금융권 AI 가이드라인 중 '금융안전성 원칙'을 통해 AI가 초래할 수 있는 시스템 리스크와 군집행동 가능성을 평가하도록 규정하고 있다. 

금융감독원 디지털금융총괄국 관계자는 커뮤니티 내 AI큐레이션 도입으로 인한 추종매매를 부추길 수 있어 감독규정 등으로 규제를 마련하고 있는지에 대한 질문에 대해 "AI 도입 단계다 보니까 디테일이나 큐레이션에 특화된 규정이 없는 건 사실"이라면서 "자본시장법상 불공정거래행위로 연결될 수 있는 부분이기 때문에 디지털금융총괄국 외에 자본시장감독국과도 내용을 고민해봐야 한다"고 설명했다.

이어 이 관계자는 "AI 이용으로 인한 위험관리 영역을 금융권AI가이드라인으로 안내하고 있다"며 "현재는 1.0 버전인데 금융위원회와 2.0, 3.0으로 업데이트하면서 상세안은 담을 예정"이라고 말했다.