HeadlinesBriefing favicon HeadlinesBriefing.com

Jeeves : L'amélioration des modèles de décision Jev-like par le raisonnement

Hacker News •
×

Jeeves est un classificateur style Jev avec un drafter par diffusion, entraîné avec SFT et CISPO. Il présente un modèle de 9B type Jev (Qwen3.5-9B, LoRA, head pointer) qui réfléchit avant de décider, en utilisant un drafter par diffusion bloc-4. Le modèle dépasse Kev-9B et Jev sur des données de test hors domaine (0.889 contre 0.822 et 0.857) et sur les niveaux publics de Jev Bench (0.935 contre 0.866).

Il prend en charge les questions oui/non, choix multiples et rating via une API compatible Jev. L'inférence prend ~0,3s sans réfléchir et 3,3s médiane avec réfléchir sur un GPU H100 unique. Jeeves obtient une plus grande précision sur les articles difficiles de Jev Bench (0.865 contre 0.730) et une moindre incertitude sur les réponses inconnues (0.055 contre 0.090).

Le modèle s'exécute sur CUDA (Hopper pour le kernel FP8) et comprend un code d'entraînement complet et des données. Un démarrage rapide nécessite Python 3.12 et un GPU CUDA. Les poids peuvent être téléchargés et servis via Hugging Face ou des points de contrôle fusionnés.

Les requêtes exemples montrent des sorties structurées pour département, escalade et notation de frustration avec confiance et probabilités.