"추론 토큰 비용 32배 줄인다”…애피어, AI 에이전트 ‘SMITH’ 프레임워크 공개

"40억개 모델로 대규모 모델 능가"

애피어의 최신 연구 논문 ‘거대언어모델 에이전트를 위한 도구 생성과 활용의 공동 최적화’가 AI 학회 NeurIPS에 채택됐다.   

1일 회사에 따르면, 이번 논문은 AI가 스스로 도구를 만들고 활용하는 과정을 하나의 학습 루프에서 수행하는 강화학습 프레임워크 'SMITH'를 제안한다. SMITH로 학습한 40억개 파라미터 소규모 모델은 300억개 파라미터 모델보다 뛰어난 도구 생성 성능을 보였으며, 3억5000만개 파라미터 경량 모델에서도 높은 연산 효율을 입증했다.

SMITH는 기존의 단계별 추론 과정에서 평균 3206토큰이었던 출력량을 약 100토큰으로 줄여 약 32배의 효율 향상을 기록했다. 이에 따라 기업은 반복적인 개발과 추론에 드는 토큰 비용을 크게 낮출 수 있다.

애피어 연구 논문, NeurIPS 채택(제공=애피어)

치한 위 애피어 대표는 “인간은 문제 해결 경험을 도구로 만들어 활용함으로써 매번 처음부터 다시 시작할 필요가 없도록 해왔다. 이제 AI 에이전트도 같은 방식으로 진화하고 있다”며 “이번 연구는 AI 에이전트가 스스로 도구를 만들고 개선하는 것은 물론, 효과가 확인된 도구를 다양한 규모의 모델이 함께 활용할 수 있음을 보여준다. 이를 통해 멀티 에이전트 협업을 더욱 효율적이고 확장 가능하게 만들 수 있다”고 말했다.

치에옌 린 애피어 리서치 사이언티스트는 “SMITH가 모델에 도구 사용법을 학습시킬 때 모델은 내부 코드가 아닌 도구에 대한 설명과 파라미터 정보만을 참조한다”면서 “따라서 설명이 얼마나 명확한지, 해당 도구를 올바르게 호출할 수 있는지가 학습 과정에서 직접적인 피드백으로 작용한다”고 설명했다.