체크포인트 "AI 악용, 진화했다…공격 지원→공격 수행"

체크포인트 리서치 'AI 시큐리티 리포트 2026' 발표…2분기 악의적 프롬프트 주입 5배↑

인공지능(AI)이 공격을 지원하는 수준에서 이제 직접 공격을 수행하는 주체로 진화했다는 분석이 나왔다.

글로벌 사이버보안 기업 체크포인트  소프트웨어 테크놀로지스(한국지사장 임현호) 위협 분석팀 '체크포인트 리서치'는 이같은 내용을 골자로 한 'AI 시큐리티 리포트 2026'을 31일 발표했다.

보고서는 지난 한 해 동안 발생한 실제 사건, 텔레메트리(Telemetry) 데이터 및 독창적인 사례 연구를 기반으로 작성됐으며, AI가 공격 전 과정에 직접 관여하면서 방어자에게 어떤 변화가 있었는지를 설명한다.

(사진=체크포인트)

보고서에 따르면 과거에는 AI가 범죄자들이 사이버 공격을 준비하는 데 도움을 줬다면, 이제 AI는 사람의 최소한의 개입만으로 실제 침입을 수행한다. 이로 인해 방어자의 대응 시간은 크게 단축됐으며, 기업 전반에는 새로운 공격 표면이 생겨나고 있다. 또한 기업의 AI 도입 속도가 AI 거버넌스 구축 속도를 앞지르면서 새로운 보안 위험도 커지고 있다는 것이다.

실제 2026년 3월에서 5월 사이에 길고 악의적인 프롬프트 주입 페이로드 탐지 건수는 약 5배 증가했다. 이러한 대규모 악성 페이로드의 급격한 증가는 간접 프롬프트 주입이 이론적인 위험이 아닌 일상적인 공격 경로이자 기업 운영상의 위험 요소가 되고 있음을 의미한다.

AI가 단계별 사람의 개입을 최소화한 상태에서 수십 개의 세션에 걸쳐 수천 개의 명령어를 실행하며 익스플로잇 워크플로우를 자율적으로 수행한 침해 사례들을 기록했다. 또   취약점이 악용될 수 있는 범위가 며칠에서 몇 시간 단위로 단축됐다. 이제 AI는 새로운 취약점이 공개되더라도 몇 시간 내에 실제로 작동하는 공격 툴을 만들 수 있다는 분석이다. 고위험 기업용 AI 프롬프트도 지난 1년 동안 두 배 증가해 AI 상호 작용 50건당 약 1건 발생 수준에서 25건당 약 1건으로 증가했다.

로템 핀켈스타인(Lotem Finkelstein) 체크포인트 리서치 부사장은 "1년 전 우리는 AI를 공격자의 역량을 강화하는 도구로 평가했다. 그러나 올해는 상황이 달라졌다. AI가 실제 공격 과정에 직접 참여하며, 과거에는 숙련된 전문가 팀이 수행하던 작업을 이제는 단독으로 수행하고 있다"며 "공격자의 전문성에 대한 진입 장벽은 빠르게 낮아지고 있으며, 방어자는 더 이상 공격자의 속도에 맞춰 대응할 수 있다고 가정해서는 안 된다. 앞으로 경쟁력을 갖춘 조직은 AI 사용을 체계적으로 관리하고, AI 시스템을 안전하게 보호하며, 사람의 속도가 아닌 머신의 속도로 대응하는 조직이 될 것"이라고 강조했다.