스캐터랩이 인공지능(AI) 캐릭터 채팅 서비스 '제타' 이용자 보호 체계를 전면 재정비한다. 대표 직속 안전 전담 조직을 신설하고 AI 개발 주요 인력 절반을 콘텐츠·대화 검수 모델 개발에 투입하는 등 정책·기술·운영 전반에 걸쳐 안전성을 강화한다.
스캐터랩은 김종윤 대표가 직접 이끄는 안전 전담 조직 '트러스트&세이프티 팀(Trust&Safety Team)'을 신설했다고 17일 밝혔다.
신설 조직은 제타 콘텐츠 안전 정책 수립부터 자체 AI 모델 개발, 콘텐츠 검수 업무까지 통합 관리한다. 올해 말까지 콘텐츠 이용 등급 분류를 체계화하고 이용자 연령에 따른 보호 기능을 고도화할 계획이다.
제타 내 스토리 콘텐츠인 '플롯'은 창작자 제작 과정과 출시 시점, 서비스 내 노출 시점 등 3단계에 걸쳐 검수한다. 플롯 소재와 텍스트·이미지를 분석해 이용 등급을 분류하고 한국·일본·미국 등 주요 서비스 국가에 적용할 AI 콘텐츠 정책과 검수 기준도 마련한다.
스캐터랩은 거대언어모델(LLM)을 활용해 플롯 검수에 특화된 자체 AI 모델을 개발한다. 연령 확인 절차도 강화해 가입 초기부터 이용자 연령에 따라 접근 가능한 콘텐츠를 구분할 방침이다.
AI 캐릭터와 대화하는 과정에서 보호 장치도 정비한다. 부적절한 대화를 방지하는 자체 AI를 출시하고 이용자 연령별 발화 기준을 수립해 AI 모델 응답에 반영할 계획이다.
이용자가 AI와 상호작용하고 있다는 사실을 주기적으로 알리는 안내 기능도 구현한다. 앞서 예고한 청소년 하루 이용 시간 3시간, 월 기본 결제 한도 10만원 제한은 국내에서 연내 도입할 예정이다. 자살·자해 관련 민감 콘텐츠가 감지되면 적절한 안내를 제공하는 기능도 구현·검증한다.
신고와 이의제기, 정기 표본 검수 과정에서 확인된 문제를 콘텐츠 정책과 AI 모델에 반영하고 재검증하는 등 운영 체계도 강화한다.
관련기사
- 애플 심사 강화에 다운 막힌 '제타'?…스캐터랩 "애플과 논의 중"2026.11.11
- '제타' 운영사 스캐터랩 대표, 과방위 이어 교육위 국감도 불참2026.10.21
- 김종윤 스캐터랩 대표, 국감 불참…"해외 출장 겹쳐"2026.10.12
- [AI는 지금] 韓 캐릭터챗 쌍두마차, 청소년 이용에 안전장치 건다2026.10.12
스캐터랩은 국내외 AI 관련 규제에 대응하는 한편 지식재산권(IP)과 청소년 보호를 중심으로 규제 당국, 앱스토어, 콘텐츠 업계 및 유사 서비스 운영사 등과 논의를 이어갈 방침이다.
김종윤 스캐터랩 대표는 "제타는 이용자가 이야기 주인공이 돼 AI와 자신만의 이야기를 만드는 서비스인 만큼 창작 즐거움과 이용자 안전을 함께 고려해야 한다"며 "정책과 기술, 운영을 아우르는 보호 체계를 고도화하고 안심하고 사용할 AI 엔터테인먼트 환경을 만들겠다"고 말했다.








