챗GPT에 "친구 죽이는 법" 질문…학교 감시 시스템에 적발돼 체포

미국 플로리다주에서 한 학생이 챗GPT에 "수업 중에 내 친구를 죽이는 방법"을 물어봤다가 학교 감시 시스템에 적발돼 체포됐다. WFLA가 1일(현지 시각) 보도한 내용에 따르면, 학교에서 지급한 컴퓨터가 오픈AI의 챗GPT에 입력된 의심스러운 질문을 감지하면서 사건이 시작됐다. 게글(Gaggle)이라는 회사가 운영하는 학교 온라인 감시 시스템이 즉시 경보를 발동시켰고, 볼루시아 카운티(Volusia County) 보안관 대리인들이 학교로 출동했다.

학생은 경찰 조사에서 자신을 화나게 한 친구에게 "그냥 장난친 것"이라고 해명했다. 하지만 볼루시아 카운티 보안관 사무소는 "또 다른 '장난'이 캠퍼스에 긴급 상황을 만들었다"며 부모들에게 자녀들과 이런 행동의 결과에 대해 대화할 것을 촉구했다. 학생은 체포돼 카운티 교도소에 수감됐으나 구체적인 혐의는 공개되지 않았다.

총기 난사 사건이 끊이지 않는 미국에서는 여러 주정부가 지난 10년간 학생들의 온라인 활동을 감시하는 시스템에 투자해 왔다. 게글은 "자해, 폭력, 괴롭힘 등과 관련된 우려스러운 행동을 적발하는 도구"로 자사 시스템을 설명하며, 구글 제미나이(Google Gemini)와 챗GPT 같은 AI 도구와의 대화까지 감시한다고 밝혔다.

■ 이 기사는 AI 전문 매체 ‘AI 매터스’와 제휴를 통해 제공됩니다. 기사는 클로드 3.5 소네트와 챗GPT를 활용해 작성되었습니다. (☞ 기사 원문 바로가기)