[안광섭 AI 진테제] Jev, 역사상 가장 빠르게 사용량이 증가한 유료 모델

지난 15일, 미국 스타트업 타입세이프 AI(TypeSafe AI)가 2년가량의 비공개 개발을 끝내고 첫 모델 '제브(Jev)'를 공개했다. 투자금 4000만 달러를 유치했다는 발표도 함께 나왔다. 최고경영자 디오고 알메이다는 오픈AI 연구원 출신이다.

공개 후 며칠 사이에 오픈라우터와 클라우드플레어의 모델 목록에 'Jev'가 올랐고, 버셀(Vercel)은 Jev가 역사상 가장 빠르게 사용량이 증가한 '유료'모델이라고 공식 발표했다. 이는 GPT-5.6 제품군의 2배, DeepSeek V4.1 Flash 4배, Fable 5.1의 6배가 넘는 수치이다. 레딧을 비롯한 개발자 커뮤니티와 X(전 트위터)에서는 사용기와 긍정적인 검증 글이 쏟아졌다.

이 모델은 글을 쓰지 못한다. 코드도 작성하지 못하고, 자신의 추론을 설명하지도 않는다. 타입세이프 문서가 스스로 밝힌 내용이다. 사용기를 보면 계산과 날짜 비교에 약하고 부정문이나 에두른 표현도 자주 놓친다. 자체 평가의 정확도 역시 최상위 모델보다 낮다. 그런데도 왜 이렇게 주목받을까? 이유는 값이 싸고 빠르기 때문이다. 입력 100만 토큰당 0.042달러를 받고 출력에는 과금하지 않는다. 응답은 0.07초에서 0.5초 사이에 돌아온다.

Jev는 답을 쓰지 않고 고른다

Jev에 보내는 것은 두 가지다. 판단 대상이 되는 상태(고객 문의, 송장 데이터, 에이전트 실행 기록 같은 텍스트)와 형식이 정해진 질문이다. 질문은 세 종류뿐이다. 최대 255개 선택지 중 하나를 고르는 질문, 2단계에서 10단계 사이의 척도로 점수를 매기는 질문, 어떤 진술이 참일 확률을 0과 1 사이 숫자로 답하는 질문이다. Jev는 답과 함께 선택지별 확률 분포를 돌려준다. 받는 쪽은 사람이 아니라 코드다.

일반적인 대규모언어모델(LLM)에 같은 일을 시키면 과정이 길어진다. "이 문의는 환불, 배송, 기술 지원 중 어디에 해당하는가"를 물으면 모델은 토큰을 하나씩 생성해 문장이나 JSON을 쓰고, 소프트웨어는 그 글을 다시 해석해 값을 꺼낸다. 답은 세 개 중 하나인데 그 하나를 얻으려고 글쓰기 과정 전체를 거친다. 답의 후보가 미리 정해져 있다면 글을 쓸 필요가 없다. 모델이 각 후보에 부여한 확률만 읽으면 된다. 생성 단계를 건너뛰니 빠르고, 출력이 정해진 형식 밖으로 나갈 수 없으니 해석 오류도 생기지 않는다.

타입세이프는 구조를 공개하지 않았다. 새 아키텍처, 병렬 샘플러, '보정된 판단을 위한 강화학습(RLCD)'이라는 이름만 밝혔고 가중치와 논문은 없다. 다만 원리 자체는 비밀이 아니다. 타입세이프와 무관한 독립 프로젝트 OpenJev 등은 공개 모델을 브라우저에서 돌리면서, 모델이 제시된 선택지에 부여한 로짓(선택지별 점수)만 읽어 정규화하는 방식으로 같은 동작을 재현했다.

이 프로젝트가 공개한 표를 보면 102행짜리 공개 평가셋에서 파라미터 40억 개짜리 Qwen3.5 4B의 일치율은 84.5%이고, 같은 셋에서 공개된 Jev의 값은 88.3%다. 6억 개짜리 모델은 40.7%에 그친다. 표본이 작고 브라우저용 양자화가 정확도를 바꿀 수 있다는 단서가 붙은 수치다. 그래도 읽을 수 있는 것이 있다. Jev가 보여준 효율의 상당 부분은 문제를 닫힌 선택지로 바꾸는 설계에서 나오며, 그 설계는 작은 공개 모델에서도 작동한다.

193배라는 숫자는 누구와 비교한 것인가

타입세이프는 홈페이지에 "193.6배 빠르고 444.6배 저렴하다"고 적었다. 이 배수는 비교 대상을 확인하고 읽어야 한다. 타입세이프가 공개한 워크플로 평가를 분석한 개발자들의 글에 따르면 네 개 업무를 평균한 정확도는 Jev 67.8%, GPT-5.6 Terra 67.9%, Claude Sonnet 5 67.8%이고, GPT-5.6 Sol은 74.1%, Claude Opus 5는 73.1%다. 건당 비용과 지연 시간은 Jev가 0.0004달러에 0.4초, Terra가 0.0304달러에 10.1초다. 정확도가 같은 Terra를 기준으로 계산하면 Jev는 약 25배 빠르고 약 76배 저렴하다. 190배와 440배 안팎의 숫자는 표에서 가장 느린 Sonnet 5(78.1초)와 가장 비싼 Opus 5(0.1761달러)를 각각 분모로 삼아야 나온다. 25배와 76배만으로도 충분히 큰 차이인데, 가장 유리한 기준을 골라 배수를 키운 셈이다.

정확도에는 더 중요한 단서가 있다. 이 평가의 정답지는 사람이 만들지 않았다. 타입세이프는 GPT-6 Astra와 Claude Fable 5.1의 응답을 평균해 기준 라벨로 삼았다고 밝혔다. 67.8%는 '정답률'이라기보다 '최상위 모델 두 개와 의견이 일치한 비율'이다. 업무별 편차도 크다. 고객 응대에서는 최고 모델과 2.3%포인트 차이지만 송장 처리에서는 Jev 61.8%, Sol 79.1%로 17.3%포인트 벌어진다. '환각이 없다'는 문구도 출력이 정해진 형식을 벗어나지 않는다는 뜻이다. 형식에 맞는 오답은 나온다.

가장 큰 미검증 항목은 확률의 품질이다. Jev가 0.85라고 답한 판단들이 실제로 85% 정도 맞는지를 보여주는 보정(calibration) 곡선을 타입세이프는 공개하지 않았고, 사람이 라벨링한 데이터로 제3자가 검증한 결과도 아직 없다. 독립 사용기 하나가 참고가 된다. 가격 비교 엔진을 운영하는 개발자 paddo는 사람이 검토할 엄두를 내지 못하던 저신뢰 상품 매칭 9081건을 Jev에 맡겼다. 비용은 32센트, 시간은 13분이 들었다. Jev는 49%를 기각하고 21%를 확정했으며 30%는 판단을 보류했다. 그가 50건을 직접 검토한 결과 48건이 타당했다. 그는 동시에 50건으로는 0.85가 85%를 뜻하는지 검증할 수 없다고 적었다.

쓰기와 판단을 나누면 보이는 것

필자가 Jev에서 주목하는 것은 모델보다 그 모델이 전제한 업무 구분이다. 지금 기업이 LLM API로 처리하는 호출에는 성격이 다른 두 가지 일이 섞여 있다. 보고서 작성, 코드 생성, 요약처럼 답이 열려 있는 일이 있고, 문의 분류, 에이전트의 다음 경로 선택, 결제 승인과 보류, 사람에게 넘길지 여부처럼 답의 후보가 정해진 일이 있다. 후자는 글을 쓸 필요가 없는데도 같은 모델에 같은 단가로 맡겨져 왔다. 에이전트가 늘수록 후자의 호출이 늘어난다. 에이전트는 한 번 글을 쓰기 위해 수십 번 판단하기 때문이다. Jev의 가격은 그 판단의 값이 지금보다 두 자릿수 배 낮아질 수 있음을 보여준다.

확률을 함께 돌려준다는 점은 설계 방식도 바꾼다. 타입세이프 문서는 확신도를 세 구간으로 나눠 쓰라고 권한다. 높으면 자동 처리하고, 중간이면 사용자 확인을 받거나 검토 대상으로 표시하고, 낮으면 실행하지 말고 사람이나 다른 시스템에 넘기라는 것이다. 삭제 같은 파괴적 작업에는 0.9 이상을 요구하는 예시도 들었다. 모델이 모른다는 사실이 버려지지 않고 분기 조건으로 쓰인다. paddo의 사례에서 30%의 보류가 사람이 봐야 할 목록을 9081건에서 2686건으로 줄인 것이 그 효과다. 다만 이 설계는 확률이 믿을 만할 때만 성립한다. 보정 검증이 Jev 도입의 선결 조건인 이유다.

같은 원리를 기기 안으로 가져가면

필자는 KASI(Kernel Action Schema Intelligence)라는 온디바이스 AI 프로젝트를 진행하고 있다. 소스 코드는 깃허브에 Apache 2.0 라이선스로 공개했다. 현재, 연구와 개인 목적에는 무료로 제공하고 기업, 기관에게는 유료로 공급하고 있다.

KASI도 하는 일은 하나다. 한국어 요청과 JSON 도구 스키마를 받아 다섯 가지 구조화된 행동 중 하나로 바꾼다. 도구를 인자와 함께 호출하는 call, 필요한 정보가 빠졌을 때 되묻는 clarify, 위험한 도구를 실행하기 전에 사용자 동의를 구하는 confirm, 모르는 도구이거나 모호하거나 위험한 요청을 거절하는 refuse, 확인된 도구 실행 결과를 사용자에게 전하는 respond다. 이 가운데 confirm은 모델이 고르지 않는다. 모델이 낸 호출 제안과 도구의 위험 등급을 대조해 호스트 쪽 코드가 정한다. 모델은 도구를 직접 실행하지 않는다. 최종 실행 권한은 호스트 애플리케이션에 남는다. 목표 기기는 아두이노급 마이크로컨트롤러, 라즈베리파이급 단일 보드 컴퓨터, 소형 PC의 세 단계이고, 네트워크 연결 없이 기기 안에서 추론을 끝내는 것을 전제로 한다.

Jev와 출발점이 같다. 출력 공간을 닫는다. "거실 불 좀 줄여줘"라는 말에 모델이 문장으로 답할 이유가 없다. 필요한 것은 어떤 도구를 어떤 인자로 부를지, 아니면 되물을지 거절할지의 결정이다. 불확실성을 다루는 방식도 닮았다.

Jev가 낮은 확신도를 숫자로 돌려주고 분기를 코드에 맡긴다면, KASI는 되묻기와 거절을 행동 목록에 넣어 모델이 고를 수 있게 했다. 다른 점은 위치다. Jev는 타입세이프의 클라우드 API로만 쓸 수 있고 가중치는 비공개이며 직접 설치해 운영할 방법이 없다. 0.1초대 응답도 네트워크가 연결돼 있을 때의 이야기다.

가전, 공장 설비, 차량처럼 연결이 끊겨도 동작해야 하고 데이터를 밖으로 보내기 어려운 환경에서는 판단이 기기 안에서 이뤄져야 한다. 선택지를 더 좁히고 한국어와 도구 호출에 특화하면 모델을 더 줄일 수 있는지가 KASI가 확인하려는 질문이다. 필자의 목표는 출력을 다섯 가지 행동으로 닫아, 네트워크 없는 작은 기기에서도 0.1초대 응답을 내는 것이다.

한계도 밝혀 둔다. 현재 공개 저장소에는 모델 가중치가 없고, 저장소는 그래서 품질이나 자원 성능을 주장하지 않는다고 명시하고 있다. 공개 벤치마크 평가와 실제 기기에서의 속도·메모리 측정도 남아 있다. 여기서 말할 수 있는 것은 설계 방향까지다.

판단을 사는 기준

Jev를 도입할지 말지보다 먼저 확인할 것이 있다. 자사 LLM 호출 기록에서 답의 후보가 정해진 호출이 몇 퍼센트인지 세어 보는 일이다. 그 비율이 곧 절감할 수 있는 비용의 상한이다. 다음은 그 업무에 대해 사람이 라벨링한 데이터를 수백 건이라도 확보하는 일이다. 정확도뿐 아니라 모델이 말한 확률과 실제 적중률이 맞는지를 자사 데이터로 확인해야 자동 처리 임계값을 정할 수 있다.

필자가 늘 말하듯 모든 사람들이 GPT-6 Astra, Claude Fable 5.1 정도의 지능이 필요한 것은 아니다. 그리고, 모든 일에도 그 정도의 지능이 필요한 것이 아니다. 단순 분류, 빠른 판단 등이 중요한 일에 적합한 것들은 따로 있으며, 환경에 따라 필요한 모델도 따로 있다. 최근에 화제가 되고 있는 초파리 뇌도 비슷한 맥락이다. 어딘가에는 초파리 뇌 정도로 해결 가능한 문제도 있는 것이다. 송장 처리의 17.3%포인트 격차가 보여주듯 업무에 따라 결과는 크게 달라진다.

마지막으로, 실제 기기를 만드는 기업에는 질문이 하나 더 있다. 그 판단이 클라우드에서 이뤄져도 되는가. 연결, 지연, 데이터 반출 중 하나라도 걸린다면 닫힌 행동 공간을 가진 소형 모델을 기기에 넣는 쪽이 검토 대상이 된다. Jev는 판단이 글쓰기와 분리된 별도의 상품이 될 수 있음을 가격으로 보여줬다. 그 판단을 어디에서, 누구의 검증을 거쳐 실행할지는 각 기업이 자기 업무 데이터로 정해야 한다.

◆ 필자 안광섭은…

세종대학교 경영학과 겸임교수이자 INLEVEL9(인레벨나인) 전략 컨설턴트다. 대학에서 경영데이터 관리, 비즈니스 애널리틱스 등 데이터 분석을 가르치는 한편, 현장에서는 기업의 AI 도입과 전환, 시장 진입과 GTM 전략 컨설팅을 이끌고 있다. 넥슨, 한화생명, 노션 한국 론칭, 카카오브레인 AI 제품, 감마 GTM 전략을 거치며 제품과 시장, 기술과 사람 사이의 간격을 줄이는 일을 해왔다.