Jev ist das neue „System One“-Klassifikatormodell von Type Safe. Der Name ist inspiriert von Daniel Kahnemans Buch Thinking, Fast and Slow, in dem er zwischen schnellem, instinktivem System-One-Denken und langsamerem, bewusstem System-Two-Denken unterscheidet. Große Sprachmodelle (LLMs) wie Claude oder GPT sind System-Two-Modelle, während „Entscheidungsmodelle“ wie Jev und seine Vorgänger (z. B. Laya) System One sind.
Jev nimmt einen vortrainierten Transformer und fügt am Ende einen Klassifikator hinzu, sodass er sofort neuen Kontext nutzen kann, während er als Klassifikator fungiert. Sie geben Kontext und eine Multiple-Choice-Frage, und er gibt eine Wahrscheinlichkeitsverteilung über die Optionen zurück. Die gesamte unten aufgeführte Versuchsreihe kostete weniger als 4,00 $.
Ich habe Jevs Kalibrierung mit gut verstandenen physikalischen Verteilungen wie der Maxwell-Boltzmann-Verteilung getestet. Ich wählte 10 Kandidatenverteilungen, 5 Prompt-Vorlagen pro Verteilung und 20 Variationen pro Prompt, was insgesamt 1.000 Einstellungen ergibt. GPT-6 Astra und Claude Opus 5.5 wurden verwendet, um die Experimente zu implementieren, Vorlagen-Prompts zu schreiben und API-Aufrufe durchzuführen.
Quelle: Hacker News · Zusammengefasst von HeadlinesBriefing