HeadlinesBriefing favicon HeadlinesBriefing.com

Jev: Neues Frontier-Modell 40-400x günstiger, 20-200x schneller

Hacker News •
×

Diogo Almeida, Gründer von Type Safe AI, kündigte Jev an, ein neues System One Model, das bei strukturierten Aufgaben eine ähnliche Intelligenz wie bestehende LLMs erreicht und dabei 40-400x günstiger und 20-200x schneller ist. Nach zwei Jahren im Stealth-Modus baute Type Safe AI einen neuen Stack mit einer neuartigen Architektur, parallelem Sampler und Reinforcement Learning for Calibrated Decisions (RLCD).

Jev ist für strukturierte Ausgaben optimiert und kann nicht halluzinieren. Es nimmt einen unstrukturierten Zustand und gibt typisierte probabilistische Entscheidungen zurück. Anders als LLMs, die Strings sequenziell generieren und Parsing erfordern, generiert Jev alle Ausgaben in einer einzigen Abfrage mit kalibrierten Wahrscheinlichkeiten.

Kosten: Input-Tokens zu $0.042 pro MTok ($42 pro Milliarde), Output-Tokens kostenlos. Geschwindigkeit: End-to-End-Antwortzeit 70ms-500ms gegenüber 3-329 Sekunden für Frontier-Modelle. Konfidenz wird immer kommuniziert, was Jev für Automatisierung geeignet macht, wo menschliche Aufsicht unpraktisch ist.

Jev ist heute im Early Access verfügbar.

Wichtige Entitäten: Unternehmen: Type Safe AI, OpenAI | Personen: Diogo Almeida