오픈AI, '챗GPT 텍스트 감지기' 공개

1천자 이상 글만 분류 가능...사용자 피드백으로 업그레이드할 것

오픈AI가 챗GPT로 작성한 글을 선별하는 애플리케이션을 만들었다.

오픈AI는 1일 공식 블로그에서 챗GPT등 AI로 쓴 텍스트를 자동 탐지할 수 있는 앱 베타버전을 공개했다. 

이 앱은 동일한 주제에 대해 사람이 쓴 텍스트와 AI 텍스트 데이터셋을 동시에 훈련 받은 언어 모델을 갖췄다. 해당 언어 모델은 누가 텍스트를 작성했는지 구별할 수 있다. 

하지만 오픈AI는 이 앱이 어느 정도 정확한 지는 공개하지 않았다. 

앱 클래시파이어 베타버전이 나왔다. (사진=오픈AI)

오픈AI는 "그동안 학계가 우려했던 표절 같은 문제를 해결하기 위해 이 앱을 만들었다"며 "AI가 작성한 글을 걸러내기 위해 최신 기술을 선별해 넣었다"고 블로그에서 밝혔다.

이번 베타버전은 텍스트 분량이 1천자를 넘을 경우에만 정확한 수치를 제시할 수 있다. 1천자 미만이면 결과 신뢰성이 떨어진다고 오픈AI는 판단했다. 사용자가 AI로 작성한 텍스트를 교묘하게 편집해 해당 분류기를 속일 수 있다는 이유에서다.

오픈AI는 "사용자 피드백을 통해 기능을 업그레이드할 방침"이라며 "챗GPT 기능과 한계를 논하기 위해 교육자들과 협력하며 AI 텍스트 감지 작업을 지속하겠다"고 밝혔다.