HeadlinesBriefing favicon HeadlinesBriefing.com

Jeeves: Reasoning verbessert Jev-ähnliche Entscheidungsmodelle

Hacker News •
×

Jeeves ist ein Jev-style-Klassifizierer mit Diffusion Drafter, der mit SFT und CISPO trainiert wurde. Er verfügt über ein 9B Jev-ähnliches Modell (Qwen3.5-9B, LoRA, Pointer-Head), das vor Entscheidungen nachdenkt und einen Block-4-Diffusionsdrafter verwendet. Das Modell schneidet bei Out-of-Domain-Testdaten besser ab als Kev-9B und Jev (0.889 gegen 0.822 und 0.857) und bei öffentlichen Jev Bench-Ebenen (0.935 gegen 0.866).

Es unterstützt Ja/Nein-, Multiple-Choice- und Rating-Fragen über eine Jev-kompatible API. Die Inferenz dauert ~0.3s ohne Nachdenken und 3,3s Median mit Nachdenken auf einer H100-GPU. Jeves erreicht höhere Genauigkeit bei harten Jev Bench-Artikeln (0.865 gegen 0.730) und geringere Unsicherheit bei unkenntlichen Antworten (0.055 gegen 0.090).

Das Modell läuft auf CUDA (Hopper für FP8-Kernel) und enthält vollständigen Trainingscode und -daten. Für die schnelle Einrichtung wird Python 3.12 und eine CUDA-GPU benötigt. Gewichte können über Hugging Face heruntergeladen und bereitgestellt werden oder als verschmolzene Checkpoints.