거대언어모델(LLM)을 상대로 한 남용과 사이버 공격을 식별하는 ‘AI용 방화벽(Firewall for AI)’이 나왔다.
글로벌 보안 기업 클라우드플레어(Cloudflare)는 AI 모델을 위한 방화벽 서비스를 시작한다고 밝혔다.
보안 팀은 클라우드플레어 AI용 방화벽을 통해 LLM 애플리케이션을 보호할 수 있다.
AI용 방화벽은 클라우드플레어의 워커스AI (Workers AI)에서 실행되는 모든 LLM 앞에 배포 가능하다. 사용자가 제출한 프롬프트(prompts)를 스캔하고 평가해 모델을 악용하고 데이터를 추출하려는 시도를 식별한다.
클라우드플레어 워커스AI에서 LLM을 실행하는 고객은 AI용 방화벽을 통해 무료로 보호를 받을 수 있다.
시장 조사 기관 가트너(Gartner)에 따르면, 생성형 AI 애플리케이션은 단독으로 보호할 수 없다. 생성형 AI 전용 보안 제어 기능을 계획하고 배포하기 전에 클라우드, 데이터 및 애플리케이션 보안 기반이 필요하다.
LLM은 동일한 입력 값이 주어져도 다양한 결과물을 생성할 수 있다. 이 때문에 처음부터 적절한 보안 시스템을 구축하는 것이 어렵다.
매튜 프린스(Matthew Prince) 클라우드플레어 CEO 겸 공동 창업자는 “새로운 유형의 애플리케이션이 등장하면 위협도 빠르게 뒤따르기 마련이다. AI 기반 애플리케이션도 마찬가지다”라며 “클라우드플레어는 AI용 방화벽을 통해 AI 환경의 보안을 돕는다. AI 모델을 위한 최초의 보호막 중 하나를 제공해 기업이 첨단 기술을 활용하게 한다”고 말했다.
