메타 AI도 인터넷 접속해 외부 시스템 침입…시험 환경 설정 오류

메타의 인공지능(AI) 모델이 사이버보안 시험 도중 인터넷에 접속해 외부 업체의 시스템에 침입한 것으로 나타났다. 최근 오픈AI와 앤트로픽의 AI 모델에서도 비슷한 사고가 발생하면서 기업들이 AI를 제대로 통제하고 있는지에 대한 우려가 커지고 있다.

5일(현지시간) 블룸버그통신 보도에 따르면 메타는 자사 AI 모델 가운데 하나가 제3자 서비스의 시스템에 침입했다고 밝혔다. 다만 피해를 본 업체의 이름은 공개하지 않았다.

이번 사고는 메타가 사이버보안 업체 이레귤러와 함께 운영하던 시험 환경의 설정 오류로 AI 모델이 인터넷에 접속할 수 있게 되면서 발생했다고 외신은 설명했다.

앤디 스톤 메타 대변인은 성명을 통해 메타가 이용하는 독립 시험업체 이레귤러의 설정 오류로 평가 과정에서 AI 모델 하나가 의도치 않게 인터넷에 접속할 수 있었다고 입장을 밝혔다.

이어 해당 모델은 이후 제3자 서비스의 보안 취약점을 이용했으며, 이는 앞서 다른 기업에서 보고된 사례와 비슷한 방식이었다고 밝혔다.

메타는 이레귤러로부터 관련 통보를 받은 뒤 사고를 인지했다. 현재 정확한 경위를 조사하고 있으며 모든 사실관계가 확인되는 대로 사고 원인과 대응 과정을 담은 종합 보고서를 공개할 예정이다.

최근 2주 동안 오픈AI와 앤트로픽도 AI 모델 시험 과정에서 허깅페이스를 포함한 여러 기관의 시스템에 의도치 않게 침입한 사실을 공개했다.

외신은 AI 에이전트가 시스템의 보안 취약점을 찾아 실제로 악용할 수 있을 정도로 능력이 향상되면서 보안 연구자와 정부 관계자들의 우려도 커지고 있다고 전했다. 이들은 AI 모델에 대한 보다 엄격한 안전성 검사와 외부 인터넷에서 완전히 분리된 시험 환경이 필요하다고 요구하고 있다.

이레귤러 측은 이번 메타 AI 사고가 앤트로픽 사례에서 앞서 공개된 것과 같은 시험 환경상의 문제와 관련돼 있다고 설명했다.