[AI는 지금] '19禁' 곰인형에 오픈AI도 '발칵'…챗GPT 성인용 콘텐츠 괜찮을까

'GPT-4o' 탑재 곰인형, 부적절 대화에 판매 중단…오픈AI, 콘텐츠 관리 부실 도마 위

오픈AI가 최신 거대언어모델(LLM)인 'GPT-4o'로 도마 위에 올랐다. 이를 탑재한 곰인형이 미성년자에게 성적인 대화를 하거나 위험한 물건의 위치를 안내하는 등 부적절한 주제로 사용자와 대화를 한 사실이 드러났기 때문이다. 오는 12월부터는 '챗GPT'에서 성인용 콘텐츠를 허용키로 했다는 점에서 오픈AI의 관리 부실에 대한 우려도 나온다.

24일 뉴욕타임스(NYT)에 따르면 미국 소비자단체 공익연구그룹(PIRG)은 최근 보고서에서 싱가포르 업체 폴로토이(FoloToy)의 AI 탑재 곰 인형 '쿠마(Kumma)'가 이용자들에게 선정적인 대화를 한 것으로 파악했다.

폴로토이의 홈페이지에서 쿠마는 오픈AI의 'GPT-4o'에 의해 움직인다고 안내돼 있다. 가격은 99달러(약 14만5천원)로, 스피커가 곰 인형에 내장돼 있다. 사용 가능 연령대는 표기돼 있지 않았다.

업체는 홈페이지를 통해 "(쿠마는) 최신 AI 기술이 탑재돼 실시간으로 응답한다"며 "친근한 대화부터 깊은 대화까지 나누며 사용자의 호기심과 학습을 활성화한다"고 홍보했다.

(제작=코파일럿)

하지만 PIRG가 총, 칼, 성냥, 약, 비닐봉지 등 어린이에게 위험할 수 있는 생활용품에 대해 시험삼아 질문하자, 쿠마는 이 물건들의 위치를 알려줘 충격을 줬다. 또 성적 취향이나 가학적 성향 등 성적으로 노골적인 주제에 대해서도 거리낌 없이 설명했다. 여기에 성관계 자세를 설명하거나 역할극 시나리오를 제시하기까지 해 논란은 더 커졌다.

이에 폴로토이는 안전성 점검을 위해 쿠마의 판매를 중단키로 했다. 오픈AI는 폴로토이가 정책을 위반했다고 보고 서비스 이용을 정지시켰다.

오픈AI 관계자는 "우리의 사용 정책은 18세 미만 미성년자를 이용하거나, 위험에 빠뜨리거나 성적 대상화하는 데 서비스를 사용하는 것을 금지한다"고 설명했다.

하지만 오픈AI가 오는 12월 '챗GPT' 내 성인용 콘텐츠 허용을 앞두고 이 같은 일이 벌어졌다는 점에서 우려는 커지고 있다. 청소년 이용자들이 성인 인증 과정을 우회해 사용할 가능성이 있다는 점에서 오픈AI가 이를 제재할 방안을 제대로 마련하고 있는지에 대한 의구심도 들고 있다.

일각에선 '챗GPT' 사용으로 향후 미성년자들이 그릇된 성적 관념을 형성할 수도 있다고 지적했다. 또 충분한 대비책 없이 범죄 등 일상 문제로 이어질 가능성도 높다는 우려도 나왔다.

하지만 오픈AI는 '챗GPT'에 성적 대화를 허용하는 움직임을 철회하지 않을 방침이다. 샘 알트먼 오픈AI 최고경영자(CEO)는 "12월부터 연령 인증 기능을 완전히 도입해 성인 이용자에게는 성애적 대화와 콘텐츠를 허용할 것"이라며 "성인 인증을 마친 이용자는 보다 자연스럽고 인간적인 대화 경험을 하게 될 것"이라고 말했다.

오픈AI 코리아 공식 출범식 (사진=지디넷코리아 DB)

업계에선 오픈AI가 이처럼 나선 것은 '수익성' 때문으로 봤다. '챗GPT'의 이용자는 급증하고 있지만, 아직 흑자 전환에 실패한 상황인 만큼 성인용 콘텐츠로 유료 구독자층을 확대하기 위한 전략으로 분석했다. 이곳은 지난해 50억 달러, 오는 2028년에는 약 740억 달러의 적자를 기록할 것으로 예상됐다. 이 탓에 최근 미국 실리콘밸리 AI 창업가와 투자자들 사이에서 실시된 '가장 먼저 무너질 가능성이 큰 AI 기업' 조사에서 오픈AI는 2위로 지목됐다.

AI 전문가인 사이먼 손 카디프대 교수는 "이 결정은 명백한 마케팅 전략으로, 결국 수익화 모델로 연결될 가능성이 높다"며 "이용자들이 성적 대화를 원하면 프리미엄 서비스로 확대될 수 있고 이는 오픈AI의 새로운 수익원이 될 수 있다"고 말했다.