김종윤 스캐터랩 대표, 2년 연속 국감장 선다

'제타' 청소년 이용자 보호 도마 위…AI 캐릭터챗 유해 콘텐츠·보호체계 쟁점

올해 국회 과학기술정보방송통신위원회 국정감사에서 인공지능(AI) 엔터테인먼트 플랫폼 '제타'의 미성년 사용자 보호 문제가 쟁점으로 떠오를 전망이다. 

22일 국회와 정보기술(IT) 업계에 따르면 과방위는 다음 달 12일 오후 2시 방송미디어통신위원회를 대상으로 진행하는 국정감사에 김종윤 스캐터랩 대표를 증인으로 채택했다. 신문요지 및 신청 이유에는 'AI 챗봇 관련 위험성'이 명시됐다.

과거 '이루다'를 선보인 스캐터랩이 2024년 출시한 제타는 이용자가 만든 AI 캐릭터와 상호작용하면서 실감나는 스토리 콘텐츠를 즐길 수 있는 플랫폼이다. 범용 AI 챗봇과 달리 엔터테인먼트 요소를 앞세운 것이 특징이다. 특히 청소년 이용자가 상당한 비중을 차지한다.

스캐터랩 '제타' (사진=스캐터랩)

모바일인덱스에 따르면 제타의 올해 상반기 평균 월간활성이용자수(MAU)는 129만명으로 국내 AI 캐릭터 채팅 분야 1위를 기록했다. 지난달 기준 제타의 10대 이용자는 약 92만명으로 전체 MAU의 58.3%를 차지했다. 올해 1월 기준 71만명 수준에서 7개월 만에 29% 성장한 수치다.

청소년의 AI 챗봇 이용이 오락을 넘어 정서적 교류로 확대되면서 유해 콘텐츠 노출에 대한 우려도 커지고 있다. 초록우산이 지난 3월 전국 만 14세 이상 아동·청소년 3300명을 대상으로 실시한 조사에서 약 33%가 힘들거나 우울할 때 생성형 AI 챗봇에 고민을 털어놓은 경험이 있다고 답했다.

자해·자살, 불법적·폭력적·성적인 내용 등을 질문한 청소년은 평균 약 6%였으며 이 가운데 평균 52%는 실제 AI 챗봇으로부터 관련 답변을 받은 것으로 나타났다.

서울 여의도 국회에서 열린 과학기술정보방송통신위원회 방송통신위원회 등에 대한 국정감사에서 김우영 더불어민주당 의원의 질의 중 박정훈 국민의힘 의원의 문자메시지 공개와 관련해 여야 의원들이 설전을 벌이고 있다. 2025.10.14 (사진=뉴스1)

제타의 유해 콘텐츠 문제는 지난해 10월 14일 국감에서도 지적됐다. 당시 과방위는 선정성·폭력성 논란과 관련해 김 대표를 증인으로 채택했지만 여야 의원 간 막말 논란으로 파행을 빚었다. 김 대표는 결국 어떤 질의도 받지 못한 채 국감장을 떠났다. 

이어 노종면 더불어민주당 의원은 제타 이용 연령을 15세로 설정해 직접 확인한 결과를 공개하며 선정적·폭력적인 표현이 다수 발견됐다고 지적했다. 제타에서는 청소년과 성인을 가리지 않고 마약 관련 대화가 이뤄지고, 자살을 미화하거나 방법을 알려주는 내용까지 확인됐다며 플랫폼의 유해 콘텐츠 관리 실태를 질타했다.

스캐터랩 관계자는 "국감 증인 채택 관련해서 내용을 확인 중"이라며 "청소년을 비롯한 이용자 보호를 중요한 운영 원칙으로 두고 있으며, 안전한 서비스 이용 환경을 조성하기 위한 조치를 지속적으로 강화하겠다"고 말했다.