오픈AI, 챗GPT가 쓴 텍스트 찾는 기술 개발 중

표절, 허위사실 유포 등 부정적 활용 방지 및 교육 목적 사용 강화

오픈AI가 챗GPT에서 생성한 텍스트를 감지하는 기술을 개발 중이다. 표절 등 부정적 활용 방지를 위함이다.

9일(현지시각) 테크크런치 등 외신에 따르면 오픈AI는 챗GPT에 의해 자동으로 생성된 텍스트를 감지하는 데 도움을 줄 수 있는 '완화(mitigation)' 기능을 개발하기 위해 노력 중이다.

오픈AI 대변인은 완화 기능을 개발하게 된 이유에 대해 교육 단체에서 챗GPT를 차단했기 때문이라고 밝혔다.

챗GPT(이미지=오픈AI)

최근 챗GPT를 활용한 과제 표절이나 허위사실 유포, 편향된 관점 등의 논란이 확산되면서 뉴욕시 공립학교 등 여러 교육 기관에서 사용을 금지했다. 국제기계학습학회 등 권위있는 인공지능(AI) 학회에서도 챗GPT를 사용한 논문을 인정할 것인지에 대해 의견이 엇갈리고 있다.

오픈AI 대변인은 "우리는 항상 AI 생성 텍스트 사용에 대한 투명성을 요구해 왔다”며 “우리는 교사와 학생이 AI의 이점을 누리고, 다른 교육자도 협력하기를 기대한다”고 말했다.

오픈AI는 기존에도 불법복제나 표절 방지를 위해 챗GPT에서 텍스트를 생성할 때마다 출처가 인공지능(AI)임을 표시하는 워터마크 삽입 도구를 개발할 예정임을 밝힌 바 있다.

반면 현재 개발 중인 기술은 사전에 챗GPT가 작성한 문서에서 패턴을 찾아내 자동으로 작성된 문서인지 여부를 가리는 것에 초점이 맞춰졌다.