아마존이 인공지능(AI) 에이전트 행동을 빠르게 점검하는 소형 모델을 오픈소스로 공개했다. 복잡한 답변 생성과 단순한 의사결정을 분리해 에이전트 처리 속도와 운영 효율을 높이려는 시도다.
3일(현지시간) 벤처비트 등 외신에 따르면 아마존웹서비스(AWS)는 약 20억 개 매개변수를 갖춘 의사결정 모델 '스트랜즈 디사이더 2B'를 출시했다. 이는 알리바바의 큐웬 기반 모델을 미세조정해 개발됐으며, 실험적 에이전트 개발 프로젝트인 '스트랜즈 랩스' 일환으로 나왔다.
스트랜즈 디사이더 핵심은 에이전트가 행동하기 전 필요한 정보·조건을 갖췄는지 확인하는 것이다. '도구를 실행한다' 또는 '사용자에게 추가 정보를 묻는다'처럼 정해진 AI 에이전트 행동 가운데 어느 쪽이 적절한지 평가한다. 글쓰기와 코딩 등 복잡한 작업은 생성형 모델에 맡기고 반복적으로 필요한 좁은 범위의 판단은 소형 모델이 담당하는 구조다.
예를 들어 사용자가 지역을 밝히지 않고 날씨를 물으면 에이전트가 임의로 도시를 정해 날씨를 조회하려는지 점검한다. 개발자는 이 판단을 바탕으로 에이전트가 날씨를 조회하기 전 사용자에게 지역부터 묻도록 설정할 수 있다.
AWS는 해당 모델이 실제 실행 여부까지 독자적으로 결정하는 것은 아니다라고 밝혔다. 판단에 사용할 질문과 기준은 개발자가 정하며, 실행 허용이나 거부 등 후속 조치도 애플리케이션에서 설정해야 한다. 의사결정 모델을 연결하는 전용 라이브러리는 아직 개발 중이다.
개발자는 모델을 허깅페이스에서 무료로 내려받아 '아파치 2.0 라이선스'에 따라 사용할 수 있다. AWS는 버전 20과 함께 코드와 학습 데이터·스크립트도 공개할 계획이라고 밝혔다. 개발자는 이를 바탕으로 학습 방법을 확인하고 자체 인프라에서 모델을 실행하거나 미세조정할 수 있다.
관련기사
처리 속도는 하드웨어(HW)와 입력 길이에 따라 다르다. AWS는 짧은 작업을 수십 밀리초 안에 처리할 수 있으며 일부 환경에서는 100밀리초 미만도 가능하다고 설명했다. 100밀리초는 0.1초다.
벤처비트는 "이 모델 차별점은 더 뛰어난 벤치마크 성능이 아니라 개방성과 자체 호스팅 가능성·재현 가능성"이라고 평가했다.
