[AI는 지금] 韓 캐릭터챗 쌍두마차, 청소년 이용에 안전장치 건다

스캐터랩 '제타'·뤼튼 '크랙' 하루 3시간·월 10만원 한도 도입

인공지능(AI) 캐릭터 채팅 서비스 업계에서 청소년 과몰입을 막기 위한 이용 제한 정책이 확산하고 있다. 뤼튼테크놀로지스의 '크랙'에 이어 스캐터랩의 '제타'도 하루 이용시간과 월 결제액에 한도를 두기로 했다. 청소년의 AI 캐릭터 채팅 이용 행태가 국정감사 쟁점으로 떠오른 가운데 업계의 이용자 보호 조치도 강화되는 모습이다.

스캐터랩은 AI 인터랙티브 엔터테인먼트 플랫폼 '제타'에 청소년 기본 이용시간과 결제 한도를 연내 도입한다고 12일 밝혔다.

이번 정책에 따라 청소년 이용자의 기본 이용시간은 하루 3시간, 기본 결제 한도는 월 10만원으로 설정된다. 이용시간이 한도에 가까워지면 휴식을 권하는 안내가 제공되며 한도에 도달하면 서비스 이용과 결제가 제한된다.

제타·크랙, 청소년 AI 캐릭터챗 무제한 이용에 제동

스캐터랩은 국내외 디지털 서비스의 청소년 보호 사례를 검토하고 정부 부처 및 업계 관계자들과 이용자 보호 방안을 논의해 왔다. 이를 바탕으로 청소년 과몰입을 방지하기 위한 구체적인 이용 기준을 마련했다는 설명이다.

(사진=스캐터랩)

기존 보호 장치도 운영 중이다. 제타의 기본 이용 환경인 '세이프 모드'에서는 청소년유해매체물 수준의 콘텐츠를 제한한다. 보다 자유로운 표현이 가능한 '언리밋 모드'는 별도 본인인증을 거쳐 성인으로 확인된 이용자에게만 제공한다.

대화 중 자살·자해 관련 표현이 반복적으로 감지되면 전문 상담기관을 안내하는 기능도 적용하고 있다. 청소년 과몰입 방지를 위해 대화 상대가 AI라는 사실을 플레이 화면에 상시 표시하고 있으며 향후 보호 조치를 추가로 마련할 계획이다.

지난달 뤼튼도 크랙의 청소년 보호 정책 강화 계획을 발표했다. 청소년의 하루 이용시간을 최대 3시간으로 설정하고 월 결제액에도 10만원의 상한을 적용하는 내용이다. 한도를 초과할 경우 보호자 인증과 동의를 거쳐 추가 이용이나 결제가 가능하도록 할 예정이다. 올해 말까지 관련 시스템 개편을 마치고 2027년 초부터 강화된 정책을 적용한다.

제타, 2년 연속 국감 소환…청소년 보호 시험대

최근 청소년의 AI 캐릭터 채팅 이용이 늘면서 정치권에서도 과몰입과 유해 콘텐츠 노출 문제를 본격적으로 다루고 있다. 이용자의 정서적 의존과 성적·폭력적 대화, 자해·극단적 선택 관련 콘텐츠, 유료 결제 등이 주요 쟁점으로 거론된다.

과방위 국정감사 현장 (사진=뉴스1)u

국회 과학기술정보방송통신위원회는 12일 진행되는 방송미디어통신위원회 국정감사에 김종윤 스캐터랩 대표를 증인으로 채택한 바 있다. 증인 신청 이유에는 'AI 챗봇 관련 위험성'이 명시됐다. 

김 대표는 지난해에도 제타의 선정성·폭력성 논란과 관련해 과방위 국감 증인으로 채택됐으나 당시 국감 파행으로 질의를 받지 못했다. 다만 김종윤 대표는 이날 과방위 국감에 불출석 사유서를 제출한 것으로 알려졌다. 구체적인 사유는 외부에 공개되지 않았다. 

국회 교육위원회도 오는 23일 국감에서 청소년 AI 캐릭터 채팅 서비스 관련 문제를 다룰 예정이다. 

김종윤 스캐터랩 대표는 "제타는 이용자가 이야기의 주인공이 되는 새로운 형태의 엔터테인먼트인 만큼, 청소년 이용자가 안전하고 건강하게 즐길 수 있는 환경을 만드는 것이 중요하다"며 "정부와 업계의 이용자 보호 논의에 적극적으로 참여하고, 청소년 보호 장치를 고도화해 신뢰할 수 있는 AI 엔터테인먼트 서비스를 만들겠다"고 말했다.