Investigadores de la Universidad de Stanford y NVIDIA han presentado los Modelos de Lenguaje Contrastivos (CLM), una nueva clase de modelo del Sistema Uno diseñado para la toma de decisiones rápida y generalizable. El modelo lanzado, CLM-8B, fue preentrenado en 60M de pares de preguntas y respuestas de Nemotron, entrenado intermedialmente en 30M de negativos duros sintéticos y postentrenado en 1M de trayectorias agenticas. El modelo ofrece un rendimiento comparable a Jev en tareas de uso de computadora, juegos y llamadas a herramientas, logrando hasta 9x menor latencia.

Una innovación clave implica desacoplar estados y acciones, permitiendo que los embeddings se almacenen en caché y reutilicen independientemente para una infraestructura de entrenamiento y servicio ultraeficiente. Los investigadores establecieron leyes de escalado que demuestran que la pérdida contrastiva de prueba disminuye predeciblemente como una ley de potencia en el cómputo de entrenamiento, tamaño del modelo y tamaño del dataset. Con fine-tuning ligero, CLM-8B establece un nuevo estado del arte en benchmarks desafiantes de codificación agentica, incluyendo Deep SWE al 81.6% y Terminal Bench 2.1 al 87.6%.

Evaluaciones de rendimiento en tareas de uso de computadora, juegos y llamadas a herramientas muestran que CLM rinde a la par de modelos existentes mientras corre significativamente más rápido, con aceleraciones más pronunciadas cuando las acciones candidatas son grandes o se reutilizan frecuentemente entre estados. El equipo lanzó el modelo en GitHub para acceso público.