아마존웹서비스(AWS)가 인공지능(AI) 에이전트의 행동을 보다 세밀하게 제어할 수 있는 오픈소스 정책 언어를 공개하며 에이전틱 AI 보안 강화에 나섰다. 개별 작업 단위를 넘어 여러 작업이 이어지는 전체 행동 흐름까지 검증할 수 있도록 지원해 AI 에이전트 운영 과정에서 발생할 수 있는 보안과 리스크 문제를 줄인다는 전략이다.
AWS는 AI 에이전트의 연속된 행동까지 통제할 수 있는 오픈소스 정책 언어 '도그우드(Dogwood)'를 공개했다고 13일 밝혔다.
도그우드는 아마존 베드록 에이전트코어의 정책 기능인 '에이전트코어 정책'에 적용되며 에이전트코어 게이트웨이에는 새로운 속도 제한 기능도 추가됐다.
최근 AI 에이전트는 단순 질의응답을 넘어 여러 단계를 거쳐 스스로 작업을 수행하는 형태로 발전하고 있다. 하지만 개별 작업에는 문제가 없더라도 여러 행동이 연결되는 과정에서 예상하지 못한 위험이 발생할 수 있다는 지적도 제기돼왔다.
맥킨지 조사에 따르면 전체 조직의 약 80%가 이미 AI 에이전트의 위험한 행동을 경험한 것으로 나타났다. 보안과 리스크에 대한 우려가 에이전틱 AI 확산의 가장 큰 걸림돌로 지목됐다.
이번에 공개된 시간 기반 정책은 현재 요청뿐 아니라 동일한 세션에서 AI 에이전트가 이전에 수행한 행동까지 함께 분석해 다음 작업의 허용 여부를 판단한다. 앞선 호출 결과와 다음 호출 입력값의 일치 여부를 검증하거나 누적 사용 금액이 일정 수준을 넘으면 추가 결제를 차단하는 방식이다.
중요한 작업을 수행하기 전에 사람의 승인을 받도록 하거나 특정 작업이 정해진 순서대로만 수행되도록 제한하는 정책도 설정할 수 있다.
도그우드는 기존 오픈소스 정책 언어인 '시더(Cedar)'를 확장한 형태로 설계됐다. 기존 정책을 재작성하지 않고도 그대로 활용할 수 있으며 에이전트의 이전 행동 이력을 기반으로 도구 사용 순서와 빈도, 누적 사용량 등을 정책에 반영할 수 있다.
도그우드는 아파치 2.0 라이선스를 적용한 오픈소스 사양과 참조 구현 형태로 제공된다.
AWS는 에이전트코어 게이트웨이에 속도 제한 기능도 추가했다. 플랫폼 운영자는 분당 요청 수와 토큰 처리량, 동시 연결 수 등을 기준으로 사용자별 사용량 상한을 설정할 수 있다.
사용자와 팀, 도구, 모델별로 서로 다른 제한값을 적용할 수 있어 애플리케이션 코드를 수정하지 않고도 AI 에이전트 사용량을 관리할 수 있다는 설명이다.
관련기사
시간 기반 정책과 게이트웨이 속도 제한 기능은 이날부터 도입이 가능하며 기존 운영 중인 에이전트를 재설계하지 않고도 적용할 수 있도록 지원한다. 도그우드의 참조 구현과 언어 가이드는 깃허브를 통해 공개됐다.
AWS는 "가장 포괄적인 AI 역량과 글로벌 인프라를 바탕으로 빌더들이 아이디어를 현실로 만들 수 있도록 지원할 것"이라고 밝혔다.
