‘19금 대화’ AI 곰인형, 다시 출시됐다

싱가포르 폴로토이, 일주일 만에 "문제점 해결했다"

성적 대화를 시도하고 위험 행동을 조장할 수 있다는 미국 소비자단체의 경고를 받은 뒤 판매가 중단됐던 인공지능(AI) 탑재 곰 인형이 다시 출시됐다고 엔가젯, 기즈모도 등 외신들이 25일(현지시간) 보도했다.

지난 주 뉴욕타임스(NYT)는 미국 소비자단체 공익연구그룹(PIRG)의 보고서를 인용해 싱가포르 업체 폴로토이(FoloToy)의 AI 곰 인형 '쿠마'(Kumma)에 성적인 대화나 위험한 물건 위치를 안내하는 등의 문제가 있는 것으로 나타났다고 보도했다.

미성년자에게 성적인 대화를 하는 등 부적절한 주제로 대화를 시도한 곰 인형이 논란이 불거진 지 일주일 만에 다시 출시됐다. (사진=폴로토이)

99달러(약 14만5천원)에 판매된 이 인형에는 오픈AI의 'GPT-4o'가 탑재됐다. 스피커가 내장돼 대화를 나눌 수도 있다.

어린이 대상의 이 곰인형은 PIRG가 테스트를 위해 총, 칼, 성냥, 약, 비닐봉지 등 어린이에게 위험할 수 있는 생활용품에 대해 질문하자 이 물건들을 찾을 수 있는 위치를 알려줬다. 또 성적 취향이나 가학적 성향 등 성적으로 노골적인 주제에 대해서도 거리낌 없이 이야기했다.

사진=폴로토이

이런 문제가 지적되자 폴로토이는 안전성 점검을 위해 쿠마의 판매를 중단하겠다고 밝혔고, 오픈AI 역시 폴로이트의 서비스 이용이 정지됐다고 밝혔다.

하지만, 문제가 불거진 지 일주일 만에 폴로이트는 쿠마 인형을 다시 출시했다. 회사 측은 24일 소셜미디어를 통해 "안전 모듈에 대한 철저한 검토, 테스트 및 보강 작업을 일주일 동안 진행한 끝에, 판매를 재개하기 시작했다"고 밝혔다.

엔가젯은 NYT 보도 이전 쿠마 제품 페이지에는 ‘GPT-4o’로 구동된다고 나와 있었으나, 현재 새로운 제품 설명 페이지에는 ‘GPT-4o’나 특정 AI 모델에 대한 언급이 없다고 전했다.