오픈AI, 中 정부 연계 의심 계정 정지…"SNS 감시 질의, 정책 위반”

챗GPT로 대화 감시 방법 질문

생성형 인공지능(AI) ‘챗GPT’를 운영하는 미국 오픈AI는 중국정부기관과 관련 있는 것으로 의심되는 복수의 챗GPT 계정을 이용정지했다고 밝혔다.

7일(현지시간) 로이터에 따르면 오픈AI는 해당 계정들이 SNS에서의 대화 감시 방법을 질의하는 등 자사 정책을 위반해 조치했다고 밝혔다.

오픈AI의 최신 사회 위협 보고서는 일부 이용자가 챗GPT에 SNS 감시 도구나 기타 감시 수단의 사용법을 묻는 사례가 있었다고 지적했다. 오픈AI는 이를 국가 안보 관련 방침 위반으로 판단했다.

오픈AI는 기업을 사칭한 이메일로 이용자를 가짜 웹사이트로 유인해 개인정보를 탈취하거나, 멀웨어 실행을 돕는 데 챗GPT를 활용하려 한 중국어권 계정 다수를 정지했다고 설명했다.

오픈AI는 지난해 2월 사회 위협 보고를 시작한 이후 40여 개 네트워크를 적발해 정지·보고했으며, 악의적 지시에 대해서는 모델이 거부하도록 대응해 왔다고 덧붙였다.