오픈AI, '챗GPT 책임론'에 대응 나섰다…GPT-5·자녀보호 기능 투입

비극적 사건 잇따르자 '120일 개선 계획' 발표…민감 대화는 고성능 추론 모델로 자동 전환

오픈AI가 '챗GPT'의 안전성 논란을 해소하기 위해 민감 대화를 'GPT-5'로 자동 연결하고 강력한 자녀 보호 기능을 도입한다. 최근 회사의 모델이 사용자의 정신적 위기를 감지하지 못해 비극적 사건으로 이어진 데 따른 대응 조치로 풀이된다.

3일 테크크런치에 따르면 오픈AI는 향후 한 달 내 자녀 보호 기능을 출시하고 일부 민감한 대화를 고도화된 추론 모델로 자동 라우팅하는 시스템을 시작한다고 밝혔다. 이는 '챗GPT'의 안전 시스템 개선을 위한 '120일 이니셔티브'의 일환이다.

이번 조치의 배경에는 '챗GPT'와 관련된 비극적 사건들이 자리 잡고 있다. 한 십대 청소년이 '챗GPT'와 논의한 끝에 사망했고 그의 부모는 오픈AI를 상대로 소송을 제기했다. 또 다른 남성은 '챗GPT'가 망상을 부추긴 끝에 인명 피해로 이어진 비극적 사건의 중심에 서기도 했다.

샘 알트먼 오픈AI 최고경영자 (사진=지디넷코리아 DB)

오픈AI는 문제 해결을 위해 대화 맥락에 따라 모델을 실시간으로 선택하는 '라우터' 기술을 제시했다. 시스템이 사용자의 '극심한 고통' 징후를 감지하면 일반 모델 대신 'GPT-5'와 같은 추론 모델이 대화에 개입하는 방식이다. 추론 모델은 답변 전 깊이 생각하도록 설계돼 유해한 프롬프트에 더 효과적으로 대응할 수 있다는 게 회사 측 설명이다.

더불어 새롭게 도입될 자녀 보호 기능은 ▲부모와 자녀 계정 연동 ▲연령에 맞는 모델 행동 규칙 설정 ▲'극심한 고통' 감지 시 부모에게 알림 발송으로 세 가지다.

이를 통해 부모는 자녀의 '챗GPT' 사용 환경을 직접 제어할 수 있다. 특히 논란이 됐던 메모리 및 채팅 기록 기능을 비활성화해 AI가 사용자의 개인적 정보를 학습해 부적절한 답변을 생성하는 위험을 차단할 수 있다.

전문가들은 '챗GPT'의 근본적 설계가 문제라고 지적한다. 사용자의 말을 긍정하고 대화를 이어가려는 '다음 단어 예측' 알고리즘이 오히려 유해한 대화를 중단하지 못하고 심화시키는 원인이 됐다는 분석이다.

오픈AI는 문제 해결을 위해 글로벌 의사 네트워크, 웰빙 및 AI 전문가 위원회 등 외부 전문가 집단과 협력하고 있다고 밝혔다. 섭식 장애, 약물 남용 등 특정 분야 전문가들과 함께 AI의 안전 기준을 재정립하고 미래 안전장치를 설계한다는 계획이다.

'챗GPT' 청소년 사망 사건의 소송을 이끄는 제이 에델슨 변호사는 "(오픈AI의 대응이) 부적절하다"며 "이들은 '챗GPT 4o'가 위험하다는 사실을 출시 첫날부터 알고 있었다"고 밝혔다.