LFM2.5-24B-A2B: agentes de IA en el dispositivo

Hoy lanzamos LFM2.5-24B-A2B, un modelo de razonamiento de 24.000 millones de parámetros con solo 2.000 millones de parámetros activos, diseñado para agentes rápidos y privados en el dispositivo. Es el modelo más grande y final de la familia LFM2.5, que ahora abarca dos órdenes de magnitud, desde LFM2.5-230M hasta LFM2.5-24B-A2B.

LFM2.5-24B-A2B es competitivo con Qwen3.6-35B-A3B, un modelo con alrededor de un 50 % más de parámetros totales y activos, en cinco de ocho pruebas de agentes y uso de herramientas. Obtiene 48,09 en Live Claw frente a 38,19, y 27,69 en Automation Bench frente a 8,72. Como solo se activan 2B parámetros por token, funciona hasta 1,7 veces más rápido que MoE comparables en el dispositivo, alcanzando 184 tokens/s en un Apple M5 Max y hasta 21 K tokens de salida/s en una única GPU NVIDIA B300.

Los modelos base (LFM2.5-24B-A2B-Base) y post-entrenado (LFM2.5-24B-A2B) son de pesos abiertos y están disponibles hoy en Hugging Face y en el Playground de la empresa. También hay documentación disponible sobre cómo ejecutar y ajustar el modelo localmente.

Frente a su predecesor, LFM2-24B-A2B, el nuevo modelo incorpora un vocabulario y una ventana de contexto ampliados, un preentrenamiento a mayor escala y aprendizaje por refuerzo a gran escala. Es un modelo exclusivamente de razonamiento que produce una cadena de pensamiento explícita antes de su respuesta final, una estrategia adoptada para aprovechar su alta velocidad de decodificación y mejorar la calidad de las respuestas.

Fuente: Hacker News · Resumido por HeadlinesBriefing