GitHub - firelex/jeff: Feinabstimmungen von Qwen3.5 und Gemma 4 für Zero-Shot-Klassifikation: kleine, schnelle Entscheidungsmodelle, die Sie in Ihren Code einfügen, mit dem gleichen Anfrageformat wie Jev. Sie beschreiben eine Situation und listen die Optionen in einfachen Worten auf; Jeff gibt eine kalibrierte Wahrscheinlichkeit für jede Option aus einem einzigen Vorwärtsdurchlauf zurück. Kein generierter Text, keine Analyse: etwa 22 ms pro Entscheidung auf einer RTX PRO 6000 und 28 ms auf einem Apple M4 Max (MLX).

Zero-Shot bedeutet, dass die Optionen alles sein können: Support-Warteschlangen, Benutzerabsichten, Moderationslabels, Sprachbefehle, Spielzüge. Ihre Kategorien müssen nicht in den Trainingsdaten erscheinen; Sie beschreiben sie, und Jeff wählt aus. Dies sind sehr kleine Modelle. Sie treffen extrem schnelle, gut kalibrierte Urteile zwischen Optionen und fügen sich leicht in Ihren lokalen Code ein. In Benchmarks nähern sie sich Jev an und übertreffen ihn manchmal; aber in dieser Größe wird ihre Argumentation nicht mit Jev mithalten können, das auf einem viel größeren Modell läuft.

Vollständig auf lokaler Hardware aufgebaut. Training auf einer RTX PRO 6000 Workstation-GPU (das 0.8B trainiert in etwa 2 Stunden, das 2B in etwa 3,5), alle synthetischen Trainingsdaten wurden von einem offenen Modell (Qwen3.8-Flash-Next) auf zwei DGX Sparks geschrieben, getestet auf einem Mac Book. Keine Cloud-GPUs und keine Ausgabe geschlossener Modelle in den Trainingsdaten. Jeff verwendet das gleiche Anfrageformat wie Jev, ist aber weder mit Type Safe, den Herstellern von Jev, verbunden noch von ihnen unterstützt. Modelle auf Hugging Face: Jeff-Qwen3.5-0.8B, Jeff-Qwen3.5-2B, Jeff-Gemma4-E2B.

Benchmarks: 4.599 Fragen aus fünf öffentlichen Benchmarks, plus die öffentliche schwere Stufe von Jev Bench. Jeffs Gesamtpunktzahl erreicht oder übertrifft Jev bei Klassifikation und Grounding.