업스테이지(대표 김성훈)가 누구나 쉽게 거대언어모델(LLM)을 평가, 테스트할 수 있는 플랫폼으로 LLM 생태계 확산에 앞장선다.
업스테이지는 노코드 LLM 종합 평가 플랫폼 '이벨버스' 무료로 공개했다고 3일 밝혔다. 오픈소스 형태로 깃허브에서 접근 가능하다.
통상 LLM 성능 평가에는 특정 데이터셋을 기준으로 응답 정확도를 기록한 벤치마크 지표를 활용한다. 모델의 추론, 상식, 언어 이해 능력 등 6가지 부문을 측정하는 허깅페이스 'H6' 지표를 포함, 대화 능력 지표 'MT-벤치', 감성 평가 지표 'EQ-벤치', 지시 이행 능력 지표 'IFeval' 등이 주요 벤치마크로 꼽힌다.
이에 업스테이지는 이러한 주요 벤치마크를 한군데 통합해, 언어모델 성능을 종합적으로 테스트할 수 있는 자체 평가 플랫폼을 개발했다. 기존에는 특정 벤치마크를 테스트하려면 해당 플랫폼에 모델을 제출해야 하는 번거로움이 있었지만, 이벨버스를 활용하면 여러 벤치마크 테스트를 동시에 진행할 수 있다.
관련기사
- 업스테이지, 'NAACL 2024'서 '솔라' 개발 논문 발표2024.03.29
- 업스테이지 "AWS 고객, '솔라 미니'로 AI 서비스 만드세요"2024.03.21
- 저커버그 만난 업스테이지, 美 법인 설립…"'솔라' 해외 진출 시작"2024.03.18
- 로앤컴퍼니 손잡은 업스테이지, 법률 특화용 LLM 개발 나선 이유는2024.03.12
업스테이지 이벨버스는 업무용 메신저 '슬랙'에 API 챗봇 형태로 연동해 사용성을 확대했다. 사용자는 슬랙에서 이벨버스 챗봇과 1:1 대화를 통해 모든 평가 과정을 수행할 수 있다. 이용자들은 "호출"이나 "평가" 등 채팅창에 2개의 명령어만 입력하면 바로 원하는 모델을 호출해 테스트할 수 있다. 벤치마크 별 점수에 대한 종합 리포트까지 확인할 수 있어 모델 간 비교 평가도 가능하다.
김성훈 업스테이지 대표는 "누구나 자신이 개발한 LLM을 쉽게 테스트해 볼 수 있는 이벨버스 플랫폼을 무료로 공개할 수 있어 기쁘다"며 "앞으로 업스테이지는 LLM 생태계 발전과 확산을 위해 다양한 노력을 지속해 나갈 것"이라고 밝혔다.