"부정확 콘텐츠 생산"…애플, AI 뉴스 알림·요약 일시 중단

AI 알림·요약 이탤릭체로 표시 계획…베타 버전임을 알리는 문구 추가 예정

애플이 뉴스·엔터테인먼트 앱에 적용된 인공지능(AI) 알림 요약 기능을 일시 중단한다. 부정확한 뉴스 알림을 생성했다는 비판을 받은 후 나온 조치다. 

17일 테크크런치 등 외신은 애플이 'iOS 18.3'과 '아이패드OS 18.3' '맥OS 세퀴아 15.3'의 최신 개발자 프리뷰에 탑재된 뉴스·엔터테인먼트 앱에 대한 AI 알림·요약 베타 버전을 개선하기 위해 이를 전면 비활성화했다고 밝혔다. 

이 조치는 BBC 기사가 사용자들에게 잘못 요약 전달돼 비판을 받은 직후다. 애플의 AI는 브라이언 톰슨 유나이티드헬스케어 최고경영자(CEO)를 살해한 혐의를 받는 루이지 망지오네에 대한 BBC 기사를 틀리게 요약했다. 망지오네가 스스로 목숨을 끊었다는 내용으로 사용자에게 혼동을 줬다. 실제 망지오네가 톰슨 CEO를 살해한 건 맞지만 스스로 목숨을 끊지는 않았다.

애플이 AI 알림·요약 베타 버전 개선을 위해 이를 전면 비활성화했다. (사진=애플 홈페이지 캡처)

향후 애플은 모든 AI 알림·요약을 이탤릭체로 표시해 일반 알림과 구분한다고 밝혔다. 사용자는 잠금 화면에서 특정 앱에 대한 AI 알림·요약 기능을 비활성화할 수도 있다. 

사용자가 AI 알림·요약을 활성화할 때 해당 기능이 베타 버전임을 알리는 안내 문구도 추가한다. 해당 알림은 설정 앱에 표시되며 이 기능이 오류를 포함할 수 있다는 내용도 제시한다.

테크크런치는 "이런 안내 표시가 새 라벨이나 배지 형태로 구현될 것으로 예상했다"며 "업계 기대와는 다른 결과가 나왔다"고 평가했다.