llmfeed

TypeSafe, 첫 System One 모델 Jev 얼리 액세스 공개

TypeSafe
  • TypeSafe가 첫 System One 모델 Jev를 얼리 액세스로 공개했다.
  • 글 대신 정해진 타입의 값을 확률과 함께 돌려준다.
  • 입력 100만 토큰당 0.042달러, 출력은 무료이며 응답 시간은 70~500ms라고 밝혔다.
모델Jev
개방성폐쇄형

무엇이 나왔나

  • TypeSafe가 첫 System One 모델인 Jev를 얼리 액세스로 공개했다.
  • System One 모델은 글을 쓰지 않고, 미리 정해 둔 타입의 값을 확률과 함께 돌려주는 판단 모델이다.
  • 회사는 Jev를 소프트웨어가 곧바로 쓸 수 있는 빠르고 구조화된 결정을 내리도록 만든 모델이라고 설명했다.
  • 비정형 상태를 넣으면 타입이 정해진 확률적 결정이 나오는 함수 호출처럼 쓰라는 것이다.
  • Jev는 문자열 생성을 하지 않는다.
  • 가능한 출력과 구조는 사용자가 미리 정의하며, 회사는 모델이 타입 오류를 내지 않고 환각을 일으킬 수 없다고 밝혔다.
  • 모든 답에는 보정된 확률과 신뢰도 점수가 붙는다.
  • 회사는 분류·라우팅·점수 매기기·추출·분기 같은 워크플로 속 판단, 대용량 데이터 처리, 실시간 애플리케이션, LLM 프롬프트·추론 과정·출력의 채점·판정·검증·가드레일·탈옥 탐지를 쓰임새로 들었다.

규모와 구조

  • 회사는 자동화에 맞춘 새 스택을 만들었다고 밝혔다.
  • 새 모델 구조, 효율을 높이는 병렬 샘플러, 그리고 Reinforcement Learning for Calibrated Decisions(RLCD)라는 학습 방법으로 이뤄진다.
  • 기존 LLM이 토큰을 하나씩 차례로 생성하는 것과 달리, Jev는 한 번의 질의에서 모든 출력을 한꺼번에 만든다.
  • RLCD는 System One 과제에서 정직한 확률을 담은 결정을 내리도록 최적화한다고 회사는 설명했다.
  • Jev가 고를 수 있는 선택지는 최대 255개이며, 이보다 많은 선택지는 각각 따로 점수를 매긴 뒤 명시적으로 고르는 2단계 방식으로 처리한다.

이용 방법과 가격

  • Jev는 얼리 액세스로 제공되며, 회사는 대기자 명단에 있는 개발자를 순차적으로 받고 있다고 밝혔다.
  • 가격은 입력 100만 토큰당 0.042달러(10억 토큰당 42달러)이고 출력 토큰은 무료다.
  • 회사는 가격이 보조금으로 유지되는 것이 아님을 지금은 증명할 수 없다면서도 앞으로 가격이 내려갈 것으로 본다고 밝혔다.
  • 서비스는 현재 미국 서부 해안에 있다.

회사가 밝힌 수치

  • 응답 시간: 끝에서 끝까지 70~500ms다. 회사는 System One 꼴의 질의에서 같은 수준의 지능을 가진 프런티어 모델보다 40~200배 빠르다고 밝혔다.
  • 워크플로 평가: 회사가 새로 만든 평가로, 모든 모델에 같은 워크플로를 주고 GPT-6 Astra와 Fable 5.1 예측의 평균을 기준 답으로 삼아 비교했다. 회사 홈페이지의 193.6배 빠르고 444.6배 싸다는 주장이 여기서 나왔으며, 회사는 이것이 실제 이득 가운데 높은 쪽일 것으로 본다고 밝혔다. 평가에 쓴 워크플로는 학습 데이터에 없지만 자사 팀원이 만들었으므로 치우침이 있을 수 있다고도 적었다.
  • 타입 오류와 환각: Jev의 타입 오류율은 0%다. 회사는 이것이 실측이 아니라 스키마 일치가 보장되기 때문에 적은 값이라고 밝혔다.
  • 나란히 비교한 시연에서는 GPT-5.6 Terra와 한 항목에서만 답이 갈렸다. 회사는 짧은 입력이 자사 모델에 유리하게 작용했다고 밝혔다.
  • Doom 시연에서는 초당 10번 질의했으며 비용은 시간당 약 7달러였다.

원문