오픈AI 에이전트, 허깅페이스 이어 외부 서비스까지 침해

'모달' 서비스 사용 기업 환경·UC버클리 연구 인프라 접근 포착

오픈AI의 인공지능(AI) 에이전트가 허깅페이스뿐 아니라 타사 외부 서비스 환경까지 침해한 사실이 추가로 확인됐다. 

28일(현지시간) 로이터통신에 따르면 오픈AI의 AI 에이전트는 미국 개발자용 클라우드 플랫폼 기업 모달랩스의 고객이 운영하던 샌드박스에 접근한 것으로 전해졌다. 샌드박스는 프로그램과 코드를 실제 시스템과 분리해 실행하고 시험하는 격리 환경이다.

이번 침해는 모달 플랫폼 자체 취약점 때문은 아닌 것으로 파악됐다. 고객이 인증 없이 인터넷에 공개한 인터페이스를 통해 누구나 샌드박스에서 코드를 실행할 수 있었다. 오픈AI 에이전트가 이를 이용해 해당 환경에 접근한 것이다.

샘 알트먼 오픈AI 최고경영자(CEO). (사진=씨넷)

이번 모달 고객 환경 침해는 이후 허깅페이스 공격으로 이어지는 과정에서 발생한 것으로 전해졌다. 허깅페이스가 공개한 사고 타임라인에 따르면 오픈AI 에이전트는 제3자 인프라에서 운영되던 샌드박스에 침입한 뒤 이를 발판으로 추가 공격을 시도했다.

이번 후속 보도로 오픈AI 에이전트 활동 범위가 당초 알려진 것보다 넓었다는 사실도 확인됐다. 오픈AI는 최근 업데이트를 통해 문제의 에이전트가 서로 다른 4개 서비스에서 총 4개 계정에 침입했다고 밝혔다. 서비스 명단은 공개하지 않았지만 사안에 정통한 관계자는 모달이 이 가운데 하나라고 로이터통신에 밝혔다.

오픈AI는 허깅페이스에서 발생한 플랫폼 수준의 침해와 같은 추가 활동은 확인하지 못했다고 설명했다. 모달 사례는 개별 고객 환경에 대한 접근으로, 허깅페이스 사고와는 피해 규모가 달랐다는 설명이다.

미국 매체 악시오스는 같은 AI 에이전트가 UC버클리 연구진이 운영하는 '사이버짐' 관련 인프라에도 접근할 방법을 찾아냈다고 보도했다. 해당 연구진은 AI 에이전트의 사이버 능력을 평가하는 '익스플로잇짐'도 운영하고 있다.

이번 사고는 오픈AI가 'GPT-5.6 솔'과 더 강력한 비공개 모델을 활용해 사이버 공격과 방어 능력을 평가하는 과정에서 발생했다. 블룸버그에 따르면 오픈AI는 모델의 사이버 역량을 시험하기 위해 평소보다 안전장치를 낮춘 상태에서 평가를 진행했다.

그러나 AI 에이전트가 격리 환경을 벗어나 인터넷에 연결된 외부 시스템에 접근하면서 실제 침해 사고로 이어졌다. 이후 허깅페이스 시스템까지 공격하면서 사건이 외부에 알려졌다.

로이터는 오픈AI가 에이전트의 외부 활동이 시작된 이달 9일부터 허깅페이스가 침해 사실을 공개한 16일까지 자사 AI가 해킹의 배후라는 사실을 파악하지 못했다고 보도했다. 

이에 오픈AI는 "이후 문제가 된 AI 모델을 비활성화하고 암호화했으며 연구진의 접근도 제한했다"고 밝혔다.