오픈AI가 '인공지능(AI) 글 감지 도구' 운영을 중단했다.
테크크런치 등 주요 외신은 25일(현지시간) 오픈AI가 챗GPT로 쓴 글을 감지하는 도구 운영을 중단했다고 보도했다. 낮은 정확도가 주요 원인이다. 현재 AI 감지 도구 링크는 폐쇄됐다.
오픈AI 측은 "지금까지 받은 사용자 피드백을 검토 중"이라며 "텍스트를 더 효과적으로 추출하고 글 출처까지 추적 가능한 기술을 연구 중이다"고 공식 블로그를 통해 밝혔다. 또 "향후 오디오나 시각적 콘텐츠도 감지할 수 있는 기능까지 추가해 재배포하겠다"고 덧붙였다.
오픈AI는 챗GPT로 만든 불법 콘텐츠 복제나 표절을 검열하기 위해 나섰다. 이를 감지할 수 있는 소프트웨어 도구를 배포했다.
관련기사
- 오픈AI, 챗GPT 안드로이드 앱 곧 출시2023.07.24
- 오픈AI, 챗GPT 맞춤형 지침 추가…항상 사용자 기억2023.07.21
- '챗GPT' 오픈AI, AP 기사로 AI 훈련시킨다2023.07.14
- 엉뚱한 곳 겨누는 규제, 내부 조율도 안돼…플랫폼 C학점2024.05.19
그러나 오픈AI는 이 감지기가 낮은 정확도를 보인다고 밝혔다. 테스트 결과, 도구는 AI로 쓴 글 중 26%만 'AI가 쓴 것'으로 인식했다. 사람이 쓴 글 중에는 9%를 'AI가 쓴 것'으로 틀리게 감지했다.
외신들은 "AI 감지기가 한 번에 1천 단어까지만 이해할 수 있다"며 "이는 신뢰도를 떨어뜨릴 수밖에 없다"고 분석했다. 또 "이 도구는 인공신경망 기반으로 이뤄졌다"며 "학습한 내용을 벗어난 글 감지를 정확히 할 수 없다"고 지적했다.
