LFM2.5-24B-A2B : agents IA rapides sur appareil

Aujourd'hui, nous publions LFM2.5-24B-A2B, un modèle de raisonnement de 24 milliards de paramètres dont seulement 2 milliards sont actifs, conçu pour des agents rapides et privés sur appareil. C'est le plus grand modèle et le dernier de la famille LFM2.5, qui s'étend désormais sur deux ordres de grandeur, de LFM2.5-230M à LFM2.5-24B-A2B.

LFM2.5-24B-A2B rivalise avec Qwen3.6-35B-A3B, un modèle disposant d'environ 50 % de paramètres totaux et actifs en plus, sur cinq des huit benchmarks d'agents et d'utilisation d'outils. Il obtient 48,09 sur Live Claw contre 38,19, et 27,69 sur Automation Bench contre 8,72. Comme seuls 2B paramètres sont actifs par jeton, il fonctionne jusqu'à 1,7 fois plus vite que des MoE comparables sur appareil, atteignant 184 jetons/s sur un Apple M5 Max et jusqu'à 21 000 jetons de sortie/s sur un seul GPU NVIDIA B300.

Les modèles de base (LFM2.5-24B-A2B-Base) et post-entraîné (LFM2.5-24B-A2B) sont à poids ouverts et disponibles dès aujourd'hui sur Hugging Face et sur le Playground de l'entreprise. Une documentation sur la manière d'exécuter et d'affiner le modèle localement est également disponible.

Par rapport à son prédécesseur, LFM2-24B-A2B, le nouveau modèle dispose d'un vocabulaire et d'une fenêtre de contexte élargis, d'un pré-entraînement à plus grande échelle et d'un apprentissage par renforcement à grande échelle. Il s'agit d'un modèle exclusivement de raisonnement, qui produit une chaîne de pensée explicite avant sa réponse finale, une stratégie adoptée pour tirer parti de sa vitesse de décodage élevée et améliorer la qualité des réponses.

Source: Hacker News · Résumé par HeadlinesBriefing