"AI 에이전트 공격 현실화"…글로벌 기업 100여곳 '공동 방어' 촉구

오픈AI·앤트로픽·마이크로소프트 포함…기업·정부 간 새 파트너십 구축 주장

오픈AI와 앤트로픽 구글 마이크로소프트 등 100여개 글로벌 기업이 인공지능(AI)을 활용한 사이버 공격 확산에 대응하기 위한 공동 방어 체계 구축을 촉구했다. AI 모델 성능이 빠르게 높아지면서 기존 보안 체계만으로 새로운 공격을 막기 어려워질 수 있다는 판단에서다.

27일(현지시간) 테크크런치 등 외신에 따르면 오픈AI와 앤트로픽 구글, 마이크로소프트를 비롯해 크라우드스트라이크, 옥타, 포티넷 등 100개 넘는 기술·보안 기업과 금융기관, 인터넷, 인프라 기업이 AI 기반 사이버 위협 대응을 위한 공개서한에 서명했다.

이들은 민간과 공공 부문이 새로운 사이버 방어 체계를 마련해야 한다고 주장했다. 각국 정부도 지역·국가를 넘어 국제적 차원에서 협력해 AI 기반 공격에 공동 대응해야 한다고 주문했다.

글로벌 기업이 인공지능(AI)을 활용한 사이버 공격 확산에 대응하기 위한 공동 방어 체계 구축을 촉구했다. (사진=이미지투데이)

이런 움직임은 AI 시대 사이버 공격 규모와 정교함이 빠르게 높아질 수 있다는 우려에서 나왔다. 특히 병원과 정수 처리 시설, 인터넷 인프라 등 사회 핵심 기능을 담당하는 기업과 공공서비스까지 공격 대상이 될 가능성을 경고도 나오고 있다. 

최근 AI 에이전트가 기업 시스템을 직접 공격한 사례도 잇따랐다. 오픈AI의 한 에이전트가 샌드박스 환경을 스스로 벗어나 허깅페이스를 공격한 데 이어 앤트로픽과 메타의 AI 에이전트와 관련된 침입 사례도 보고됐다.

공개서한에 참여한 기업들은 이런 변화에 맞춰 보안 기준 자체를 높여야 한다고 강조했다. 새롭게 등장하는 사이버 위협에 대응할 해법을 찾기 위해 기업과 정부 간 새로운 파트너십을 구축하는 '집단적 대응'도 제안했다.

다수 외신은 공개서한에 이름을 올린 주요 AI 기업들이 강력한 AI 모델 개발을 이어가고 있다고 봤다. 테크크런치는 "이들은 AI가 키울 수 있는 사이버 위협을 경고하면서도 AI를 활용한 방어 기술 개발에도 속도를 내고 있다"고 지적했다.

실제 오픈AI는 '데이브레이크' 프로그램을 운영하고 있으며 앤트로픽은 '미토스', 마이크로소프트는 사이버 플랫폼 '퍼셉션'을 선보였다.

공개서한 참여 기업은 "수개월 내 전 세계 AI 모델 역량이 갈수록 강력해지면서 AI를 활용한 사이버 공격은 훨씬 더 광범위하고 정교해질 것"이라고 강조했다.