청소년 AI 과몰입 막는다…뤼튼 '크랙' 하루 3시간·월 10만원 제한

이용자 보호 정책 강화 차원…2027년 초 적용

뤼튼테크놀로지스가 인공지능(AI) 캐릭터 채팅 서비스 '크랙'의 청소년 일일 이용 시간과 월 결제액 상한을 적용했다. 미성년자들의 AI 대화 과몰입 문제에 대한 지적이 잇따르는 가운데 청소년 보호 정책을 강화하겠다는 취지다.

뤼튼은 이러한 내용의 크랙 청소년 보호 정책 강화 계획을 8일 발표했다. 뤼튼의 대표 서비스인 크랙은 이용자가 직접 캐릭터와 세계관, 스토리를 만들어 AI 캐릭터와 대화하고 다른 이용자와 공유하는 플랫폼이다.

회사 자체 집계 기준 크랙의 청소년 이용자 비중은 약 10% 수준이다. 다만 아이지에이웍스의 데이터 분석 솔루션 모바일인덱스에 따르면 올해 상반기 크랙의 10대 이용자 월간 활성 사용자 수(MAU)는 약 26만 5000명으로, 10~50대 전체 이용자의 약 50.4%를 차지했다.

(사진=뤼튼테크놀로지스)

뤼튼은 크랙의 청소년 하루 이용 시간을 하루 최대 3시간으로 설정할 예정이다. 청소년이 하루 3시간 이상 서비스를 이용할 경우에는 보호자 인증 및 동의 절차를 필수로 거쳐야 한다. 청소년 월 결제액은 10만원 상한을 적용한다. 상한을 초과하는 결제는 보호자 인증 및 동의 절차를 필수로 거쳐야 한다.

기존 콘텐츠 생성 정책 및 연령 등급 관리, 작품 검수 시스템, 검색 및 추천 제한, 신고 및 차단 기능, 위반 계정 제재 등 청소년 보호 정책 전반에 대해서도 최신 이용 패턴을 분석, 적용해 검토하고 수정, 보완 작업을 진행한다. 안전한 대화를 유도하기 위한 추가 필터와 안전 시스템 프롬프트 강화 등 세이프티 기술 부문도 고도화할 방침이다.

청소년 보호를 위한 연령 인증 방안에 대해서도 국내외 각종 기술을 검토하고 있다. 크랙은 국가 지정 본인 확인 기관인 통신사가 발급하는 국민 범용 인증서 패스(PASS)를 통해 성인과 청소년을 구분하고 있다. 

뤼튼은 올 연말까지 크랙 청소년 이용자 보호 강화 정책 시행을 위한 제도적, 기술적 검토와 시스템 개편 작업을 마치고 2027년 초부터 본격 적용할 계획이다.

뤼튼 이동재 최고제품책임자(CPO)는 "모두에게 안전하고 건강한 AI 서비스를 제공할 사회적 책임감을 무겁게 인식하고 있다"며 "특히 청소년 이용자의 안전을 최우선으로 고려하면서도 창의력을 함께 펼칠 수 있는 서비스를 만들기 위해 최선의 노력을 기울이겠다"고 밝혔다.