HeadlinesBriefing favicon HeadlinesBriefing.com

GitHub firelex/jeff : Modèles de classification zero-shot rapides

Hacker News •
×

GitHub - firelex/jeff : Ajustements fins de Qwen3.5 et Gemma 4 pour la classification zero-shot : petits modèles de décision rapides que vous intégrez dans votre code, avec le même format de requête que Jev. Vous décrivez une situation et listez les options en mots simples ; Jeff retourne une probabilité calibrée pour chaque option à partir d'une seule passe avant. Pas de texte généré, pas d'analyse : environ 22 ms par décision sur une RTX PRO 6000 et 28 ms sur une Apple M4 Max (MLX).

Zero-shot signifie que les options peuvent être n'importe quoi : files d'attente de support, intentions d'utilisateur, étiquettes de modération, commandes vocales, mouvements de jeu. Vos catégories n'ont pas besoin d'apparaître dans les données d'entraînement ; vous les décrivez, et Jeff choisit. Ce sont de très petits modèles. Ils prennent des jugements extrêmement rapides et bien calibrés entre les options, et s'intègrent facilement dans votre code local. Sur les benchmarks, ils s'approchent, et parfois battent, Jev ; mais à cette taille, leur raisonnement n'égalera pas celui de Jev, qui fonctionne sur un modèle beaucoup plus grand.

Construit entièrement sur du matériel local. Entraînement sur un GPU de station de travail RTX PRO 6000 (le 0.8B s'entraîne en environ 2 heures, le 2B en environ 3,5), toutes les données d'entraînement synthétiques écrites par un modèle ouvert (Qwen3.8-Flash-Next) sur deux DGX Sparks, tests sur un Mac Book. Pas de GPU cloud, et aucune sortie de modèle fermé dans les données d'entraînement. Jeff utilise le même format de requête que Jev, mais il n'est pas affilié ni approuvé par Type Safe, les créateurs de Jev. Modèles sur Hugging Face : Jeff-Qwen3.5-0.8B, Jeff-Qwen3.5-2B, Jeff-Gemma4-E2B.

Benchmarks : 4 599 questions provenant de cinq benchmarks publics, plus le niveau difficile public de Jev Bench. Le score global de Jeff égale ou bat Jev en classification et en grounding.