답변 대신 선택하는 AI '제브' 돌풍…개발자들이 주목한 이유

생성 대신 선택·분류…100만 토큰당 0.042달러 '초저가 판단 모델'

글을 쓰지 않는 인공지능(AI) 모델이 개발자들 사이에서 빠르게 확산되고 있다. 질문에 문장으로 답하거나 코드를 생성하는 대신 정해진 선택지에서 하나를 고르거나 점수를 매기는 데 특화한 모델이다. 범용 AI가 사람과의 대화와 콘텐츠 생성에 집중하는 것과 달리, 소프트웨어가 직접 사용할 수 있는 AI를 만들겠다는 접근이다.

21일 업계에 따르면 미국 AI 스타트업 타입세이프 AI는 지난 15일(현지시간) 첫 모델인 '제브(Jev)'를 공개했다. 오픈AI 연구원 출신인 디오고 알메이다가 설립한 타입세이프 AI는 모델 출시와 함께 4000만 달러의 투자 유치 소식도 알렸다.

알메이다 타입세이프 AI 최고경영자(CEO)가 엑스(X·옛 트위터)에 올린 제브 소개 게시물은 이날 기준 3800만회가 넘는 조회수를 기록했다. 개발자 플랫폼 기업 버셀은 18일(현지시간) 제브 출시 24시간 만에 유료 사용팀의 약 13%가 이를 사용했다며 자사 AI 게이트웨이 역사상 가장 빠르게 채택된 모델이라고 발표했다. 

타입세이프 AI 홈페이지 갈무리 (사진=타입세이프 AI)

얼리 액세스 형태로 제공 중인 제브는 거대언어모델(LLM)과 비교해 출력 자체가 다르다. 일반적인 LLM이 텍스트를 생성하면 소프트웨어는 생성된 결과에서 필요한 값을 다시 추출해야 한다.

제브는 처음부터 소프트웨어가 사용할 수 있는 구조화된 값을 반환한다. 입력된 상태를 바탕으로 최대 255개 선택지 중 하나를 고르거나 2~10단계 점수를 매길 수 있다. 특정 진술이 참일 확률을 반환하는 것도 가능하다. 모든 결과에는 확률과 신뢰도가 제공된다.

이같은 설계는 모델 속도와 비용을 낮추는 데 기여한다. 타입세이프 AI에 따르면 제브의 입력 가격은 100만 토큰당 0.042달러이며 출력 토큰은 무료다. 응답 시간은 70~500밀리초(ms·1000분의 1초) 수준이다. 회사 자체 평가에서는 기존 모델보다 최대 193.6배 빠르고 444.6배 저렴한 것으로 나타났다.

제브는 범용 생성형 AI를 대체하기보다 소프트웨어 내부의 판단을 맡는 모델을 지향한다. 고객 문의를 분류하거나 적절한 경로로 전달하고 대규모 데이터에서 특정 정보를 추출하는 작업이 대표적이다. 다른 AI 모델의 결과를 검증하거나 위험도를 판단하는 데도 활용할 수 있다.

타입세이프 AI는 이를 AI 기반 워크플로와 실시간 애플리케이션에 적용할 수 있다고 설명한다. 다만 구조화된 출력을 보장한다고 해서 판단 자체의 정확성까지 보장되는 것은 아니다. 실제 업무 환경에서 성능과 비용 효율이 유지되는지는 추가 검증이 필요하다.

타입세이프 AI는 공식 홈페이지에서 "AI에는 소프트웨어가 의존할 수 있는 인터페이스가 필요하다고 믿기에 회사를 시작했다"며 "새로운 활용 사례가 커뮤니티와 경제 전반으로 확산되기를 기대한다"고 말했다.