오픈AI, 챗GPT에 '성인 콘텐츠' 제한적 허용

"성인 사용자는 성인답게" 원칙 발표…12월부터 연령 인증 기반으로 서비스 제공

오픈AI가 '성인 콘텐츠 허용' 카드를 꺼내 들며 사용자 경험을 파격적으로 확장한다.

15일 테크크런치에 따르면 샘 알트먼 오픈AI 최고경영자(CEO)는 최근 X를 통해 오는 12월부터 챗GPT의 일부 안전 제한을 완화한다고 밝혔다. 핵심은 '인증된 성인' 사용자에 한해 에로틱한 대화를 허용하는 것이다.

이번 조치는 그간 정신 건강 문제에 미칠 영향을 우려해왔던 오픈AI의 기존 기조와는 상반된 행보다. 앞서 챗GPT는 사용자를 망상에 빠뜨리거나 10대 소년 사망 사건에 영향을 미쳤다는 의혹을 받으며 논란의 중심에 선 바 있다.

샘 알트먼 오픈AI CEO (사진=위키커먼스)

오픈AI는 논란 이후 AI의 '아첨 성향'을 낮춘 GPT-5 모델을 출시했다. 또 미성년자 보호를 위한 연령 예측 시스템과 정신 건강 전문가 위원회를 출범하며 안전장치를 마련했다고 강조해왔다.

업계에서는 오픈AI의 이번 결정이 사용자 성장 정체와 무관하지 않다고 본다. 경쟁사인 구글과 메타를 따돌리고 막대한 투자금을 회수하기 위해 '캐릭터닷AI' 등 경쟁사가 성공한 성인용 콘텐츠 시장에 뛰어들었다는 분석이다.

오픈AI는 자체 연령 예측 시스템으로 성인 인증을 진행할 계획이다. 다만 이 과정에서 신분증 사진을 요구할 수 있어 개인정보 침해 우려가 제기된다. 미국 고등학생 19%가 AI 챗봇과 교제 경험이 있다는 조사 결과도 있어 미성년자 접근 차단이 실효성을 거둘지도 미지수다.

오픈AI의 콘텐츠 정책 완화는 이번이 처음이 아니다. 앞서 다양한 정치적 관점을 포용하고 혐오 상징 이미지 생성을 허용하는 등 점차 규제 수위를 낮춰왔다.

샘 알트만 CEO는 "(신분증 확인은) 개인 정보 보호를 위한 타협"이라며 "우리는 그것이 '가치 있는 절충안'이라고 믿는다"고 밝혔다.