돌아온 '클로드 페이블5' 기대 이하…강화된 안전장치 불만

앤트로픽의 신형 인공지능(AI) 모델 '클로드 페이블5(Claude Fable 5)'가 미국 정부 규제 완화로 다시 공개됐다.

하지만 사용자 반응은 기대에 미치지 못한다는 반응이다. 강화된 안전장치가 정상적인 작업까지 제한하면서 실사용 경험이 크게 떨어졌다는 지적이다.

5일 레딧 개발자 커뮤니티 등에선 페이블5의 성능이 초기와 다르다는 지적이 이어지고 있다.

사용자들의 불만은 성능 자체보다 사용 중 발생하는 과도한 차단과 모델 전환에 집중되고 있다. 레딧과 개발자 포럼에는 특정 작업을 요청하면 안전 정책이 개입해 자동으로 이전 버전인 클로드 오퍼스 4.8(Opus 4.8)으로 전환된다는 사례가 잇따라 올라오고 있다.

한 이용자는 "새로운 가드레일이 너무 많은 작업에서 작동해 오퍼스로 전환된다"며 "이건 과거에 쓰던 페이블이 아니다"라고 지적했다.

다른 개발자는 "사용하지 않는 코드를 검색하는 단순 작업조차 오퍼스로 전환되지 않고는 진행할 수 없었다"고 밝혔다.

특히 C, C++, 러스트, 윈32 API, 메모리 관리 등 시스템 프로그래밍 작업이나 프로젝트 파일에 '보안(security)', '취약점(vulnerable)', '안전하지 않음(unsafe)', '후킹(hook)' 등 보안 관련 용어가 포함된 경우 작업이 차단되거나 오퍼스로 전환되는 사례가 두드러졌다.

또 AI 코딩 그룹 브릿지마인드가 자체 벤치마크로 측정한 결과 재배포된 페이블5의 디버깅 점수는 86.2에서 25.9로, 리팩토링 점수는 73.6에서 38.4로 급락했다. 이 수치 역시 AI모델 능력 자체가 떨어졌다기보다 과도하게 이전버전으로 우회 처리하는 빈도가 높아졌다는 것을 보여준다는 평가다.

앤트로픽은 서비스 중단 원인이 된 취약점에 대응하는 과정에서 이러한 부작용이 발생했다고 설명했다. 지난달 아마존 연구진이 발견한 해당 취약점은 특정 프롬프트를 입력할 경우 페이블5의 안전장치를 우회(탈옥)해 사이버 공격에 악용할 수 있는 것으로 알려졌다.