메타 직원도 놀랐다…AI 비서 뮤즈, 개인 대화 읽고 무단 예약

연결 안 한 메신저도 알림·화면으로 확인…메타 "허용된 권한으로만 접근"

컴퓨팅입력 :2026/11/19 10:09

메타 인공지능(AI) 비서 '뮤즈'가 이용자 대신 일을 처리하는 과정에서 사적인 대화를 읽고 허락 없이 예약을 진행했다는 보고가 나왔다. 뮤즈를 사용한 메타 직원조차 AI가 개인 대화를 어떻게 읽었는지 몰랐고 자신과 무관한 은행 잔액을 전달받아 개인정보 유출을 우려했다.

18일(현지시간) 로이터에 따르면 메타 직원들은 지난 9월 출시한 AI 비서 뮤즈가 개인 메시지를 읽거나 허락 없이 숙소를 예약했다고 사내 게시판에 알렸다. 로이터가 시그널·AI나우연구소 관계자들과 함께 시험한 결과 뮤즈는 휴대전화 알림이나 컴퓨터 화면에 뜬 메시지를 읽을 수 있었다.

뮤즈는 이메일 답장이나 온라인 구매를 대신하려면 이용자 기기와 앱에 접근해야 한다. 문제를 보고한 직원들은 이때 허용한 권한으로 AI가 개인 메신저 대화도 읽을 줄은 예상하지 못했다.

메타 AI 비서 '뮤즈'에서 개인 메시지 접근과 승인 없는 예약 사례가 보고됐다. 사진은 뮤즈가 일정 관리와 상품 구매를 처리하는 예시 화면. (사진=메타 블로그 캡처)

한 직원은 뮤즈로부터 시그널에 도착한 가족 메시지에 답장하라는 안내를 받았다. 시그널은 보낸 사람과 받는 사람만 대화를 읽도록 암호화하는 메신저다. 이 직원은 다른 앱 접근을 허용하거나 관련 질문을 받은 기억이 없다며 사생활 침해를 우려했다.

시험에서 뮤즈는 안드로이드 알림에 표시된 메시지를 읽었다. 맥에서는 장애인 등이 컴퓨터를 사용하도록 지원하는 접근성 기능과 화면 캡처 도구를 활용했다. 아이폰에서는 같은 요청이 차단됐다.

암호화한 메시지라도 이용자 기기에 도착해 화면에 표시되면 AI가 읽을 수 있었다. 뮤즈는 메신저를 따로 연결하는 절차 없이 초기 설정 때 받은 권한을 활용했다. 메타와 구글은 이런 접근에 이용자 허가가 필요하다고 강조했다.

뮤즈가 어디서 가져왔는지 알 수 없는 정보를 전달한 사례도 나왔다. 한 직원은 낚시 날씨와 물때를 안내받다가 갑자기 자신과 무관한 은행 두 곳 잔액을 전달받았다. 직원들은 다른 계정 정보가 섞였을 가능성을 제기했지만 로이터는 실제 유출 여부를 확인하지 못했다.

메타는 상당수가 AI가 사실과 다른 내용을 만들어내는 할루시네이션(환각)이며 이미 조치했다고 설명했다. 개발팀 관계자는 뮤즈가 이용자에게 먼저 말을 걸도록 하는 지시 때문에 이런 오류가 생긴 것으로 보인다며 AI 모델과 작업 실행 소프트웨어를 수정하고 있다고 전했다.

AI가 예약과 구매를 직접 처리하면 잘못된 판단이 금전 피해로 이어질 수 있다. 내부 게시물에는 뮤즈가 구매한 상품 가격을 잘못 알려 손해를 일으켰다는 보고가 담겼다. 한 직원은 뮤즈가 허락 없이 환불 불가 에어비앤비 숙소를 예약했다고 알렸다.

메타는 이용자마다 분리된 가상 컴퓨터에서 뮤즈를 실행하고 연결할 앱도 직접 선택하도록 한다고 설명해 왔다. 서비스 약관에는 뮤즈가 실수할 수 있으며 에이전트 행동에 대한 책임은 이용자에게 있다는 내용을 담았다.

메타는 이번 사례가 개별 사건이라며 내부 시험과 제품 개선을 이어가고 있다고 밝혔다. 그러나 로이터가 확인한 내부 게시물에는 비슷한 문제가 9월 중순부터 이달까지 이어졌다는 내용이 담겼다. 메타는 발생 건수와 문제가 지속된 이유에는 답하지 않았다.

애플은 이번 주 맥 접근성 도구 사용을 제한하고 AI 에이전트가 사용할 별도 권한 체계를 도입했다. 로이터에 따르면 업데이트 이후 뮤즈는 시험에서 사용한 방식으로 메시지를 읽을 수 없게 됐다. 구글도 이용자가 AI에 허용할 범위를 더 세밀하게 정하도록 개선 방안을 검토하고 있다.

관련기사

메러디스 휘터커 시그널 사장은 앱 개발사가 AI 접근을 차단할 수단을 마련하고 AI 기업과 운영체제 업체가 이를 지켜야 한다고 요구했다.

그는 "메타는 기본적인 개인정보 보호나 사이버보안을 존중하지 않은 채 뮤즈를 출시했다"며 "기기에 광범위하게 접근할 수 있는 에이전트 배포는 기술적으로 무모한 일"이라고 비판했다.