LFM2.5-24B-A2B: KI-Agenten auf dem Gerät

Heute veröffentlichen wir LFM2.5-24B-A2B, ein Reasoning-Modell mit 24 Milliarden Parametern, von denen nur 2 Milliarden aktiv sind. Es wurde für schnelle und private Agenten auf dem Gerät entwickelt. Es ist das größte und letzte Modell der LFM2.5-Familie, die nun zwei Größenordnungen umfasst, von LFM2.5-230M bis LFM2.5-24B-A2B.

LFM2.5-24B-A2B kann es mit Qwen3.6-35B-A3B aufnehmen, einem Modell mit rund 50 % mehr Gesamt- und aktiven Parametern, und zwar in fünf von acht Benchmarks für Agenten und Tool-Nutzung. Es erzielt 48,09 bei Live Claw gegenüber 38,19 und 27,69 bei Automation Bench gegenüber 8,72. Da pro Token nur 2B Parameter aktiv sind, läuft es auf dem Gerät bis zu 1,7-mal schneller als vergleichbare MoE-Modelle und erreicht 184 Token/s auf einem Apple M5 Max sowie bis zu 21.000 Ausgabe-Token/s auf einer einzelnen NVIDIA B300 GPU.

Das Basismodell (LFM2.5-24B-A2B-Base) und das nachtrainierte Modell (LFM2.5-24B-A2B) sind offene Gewichte und ab heute auf Hugging Face und dem Playground des Unternehmens verfügbar. Dokumentation zum lokalen Ausführen und Feintuning des Modells ist ebenfalls verfügbar.

Im Vergleich zu seinem Vorgänger LFM2-24B-A2B bietet das neue Modell ein erweitertes Vokabular und Kontextfenster, ein umfangreicheres Pretraining und großskaliges Reinforcement Learning. Es ist ein reines Reasoning-Modell, das vor der finalen Antwort eine explizite Gedankenkette erzeugt. Diese Strategie nutzt seine hohe Decodiergeschwindigkeit und verbessert die Antwortqualität.

Quelle: Hacker News · Zusammengefasst von HeadlinesBriefing