HeadlinesBriefing favicon HeadlinesBriefing.com

Jeeves: La razonamiento mejora los modelos de decisión tipo Jev

Hacker News •
×

Jeeves es un clasificador estilo Jev con redactor por difusión, entrenado con SFT y CISPO. Cuenta con un modelo de 9B tipo Jev (Qwen3.5-9B, LoRA, head de puntero) que piensa antes de decidir, usando un redactor por difusión de bloque-4. El modelo supera a Kev-9B y Jev en datos de prueba fuera del dominio (0.889 frente a 0.822 y 0.857) y en los niveles públicos de Jev Bench (0.935 frente a 0.866).

Soporta preguntas de sí/no, opción múltiple y rating a través de una API compatible con Jev. La inferencia tarda ~0.3s sin pensar y 3.3s mediana con pensar en una GPU H100. Jeeves logra mayor precisión en artículos difíciles de Jev Bench (0.865 frente a 0.730) y menor incertidumbre en respuestas desconocidas (0.055 frente a 0.090).

El modelo se ejecuta en CUDA (Hopper para kernel FP8) e incluye código completo de entrenamiento y datos. Requiere Python 3.12 y una GPU CUDA para iniciar rápidamente. Los pesos se pueden descargar y servir mediante Hugging Face o puntos de verificación fusionados.

Los ejemplos de solicitud muestran salidas estructuradas para departamento, escalado y puntuación de frustración con confianza y probabilidades.