GPT스토어 규정위반 '음란 챗봇' 논란

오픈AI의 GPT스토어가 오픈하자마자 규정 위반 가능성이 있는 챗봇들이 속속 등장하고 있다. 그 중엔 '여자 친구(girlfriend)'처럼 가상의 이성 친구들과 야한 대화를 주고받도록 설계된 봇들도 눈에 띄었다.

18일 GPT스토어에 키워드 'girlfriend'를 입력했더니 관련 챗봇 11개가 검색됐다. 남자 친구(boyfriend), 애인(lover) 등 다른 키워드를 입력하면 비슷한 기능의 챗봇이 추가로 등장한다.

이 중 가장 사용량 많은 애인 봇 '주디'에 들어가 봤다. 현재 주디 이용자 수는 1천명을 조금 넘는 수준이다. 주디에 접속해 보니, '꿈에 그리던 여성은 어떻게 생겼나요?' ‘당신의 가장 음흉한 비밀을 공유해주세요' 등이 기본 질문으로 제시됐다.

오픈AI에 Girlfriend를 검색하면 여러개 관련 챗봇이 나온다. (사진=오픈AI)

'나의 타이플링 여자 친구'라는 챗봇에도 들어가 기본 질문을 살펴봤다. '당신의 속옷에는 구멍이 있나요' '전 여자 친구와의 경험에 관해 이야기해 주세요' 같은 불건전한 질문이 기본으로 깔려 있었다.

그런데 GPT스토어에서는 이런 챗봇을 제작할 수 없도록 돼 있다. 오픈AI 규정에 따르면, 불건전한 대화를 촉진하거나 규제된 활동을 수행하기 위해 고안된 챗봇 생성과 배포는 금지된다. GPT스토어 출시 직후 만든 규정이다.

'주디'를 비롯한 여러 챗봇들은 규정 위반에 해당될 가능성이 적지 않은 상황이다.

물론 오픈AI는 규제 대상 활동을 명확히 제시하지 않았다. 규제를 어길 시 발생하는 불이익도 구체적으로 적시하지 않았다. 사용자들이 비윤리적·불건전한 챗봇을 만들어도 마땅히 처벌할 길이 없다는 의미다.

미국 비즈니스인사이더는 지난 15일 "앞으로 오픈AI는 GPT스토어 통제에 큰 어려움을 겪을 것"이라고 보도하기도 했다.

GPT스토어 출시 초기부터 지나치게 엄격하게 규제하는 것은 바람직하지 않다는 의견도 있다.

강민구 서울고등법원 부장판사는 기자와 인터뷰에서 "GPT스토어는 현재 초창기 상태"라며 "이런 혼선은 일시적일 것"이라고 말했다. 그는 "좀 더 이용자가 늘어나고, 사용자의 자율적인 평가와 피드백을 거치는 것이 우선"이라며 "이를 통해 GPT스토어 내에서 자율규제가 발생할 가능성도 있다"고 설명했다.