LFM2.5-24B-A2B: ऑन-डिवाइस AI एजेंट

आज हम LFM2.5-24B-A2B जारी कर रहे हैं, जो 24 अरब पैरामीटर वाला एक तर्क मॉडल है, जिसमें केवल 2 अरब सक्रिय पैरामीटर हैं। यह तेज़ और निजी एजेंटों को डिवाइस पर चलाने के लिए बनाया गया है। यह LFM2.5 परिवार का सबसे बड़ा और अंतिम मॉडल है, जो अब LFM2.5-230M से लेकर LFM2.5-24B-A2B तक दो परिमाण के क्रम में फैला है।

LFM2.5-24B-A2B, Qwen3.6-35B-A3B के साथ प्रतिस्पर्धी है, जिसमें कुल और सक्रिय दोनों पैरामीटर लगभग 50% अधिक हैं। यह आठ में से पाँच एजेंटिक और टूल-उपयोग बेंचमार्क में ऐसा करता है। यह Live Claw पर 38.19 के मुकाबले 48.09 और Automation Bench पर 8.72 के मुकाबले 27.69 स्कोर करता है। चूँकि प्रति टोकन केवल 2B पैरामीटर सक्रिय होते हैं, यह डिवाइस पर तुलनीय MoE मॉडलों से 1.7 गुना तक तेज़ चलता है, Apple M5 Max पर 184 टोकन/सेकंड और एक NVIDIA B300 GPU पर 21K आउटपुट टोकन/सेकंड तक पहुँचता है।

बेस मॉडल (LFM2.5-24B-A2B-Base) और पोस्ट-ट्रेन्ड मॉडल (LFM2.5-24B-A2B) ओपन-वेट हैं और आज Hugging Face तथा कंपनी के Playground पर उपलब्ध हैं। मॉडल को स्थानीय रूप से चलाने और फ़ाइन-ट्यून करने के तरीके का दस्तावेज़ीकरण भी उपलब्ध है।

अपने पूर्ववर्ती LFM2-24B-A2B की तुलना में, नए मॉडल में विस्तारित शब्दावली और संदर्भ विंडो, बड़े पैमाने पर प्री-ट्रेनिंग और बड़े स्तर पर रीइन्फोर्समेंट लर्निंग शामिल है। यह केवल तर्क करने वाला मॉडल है, जो अंतिम उत्तर से पहले एक स्पष्ट विचार-श्रृंखला तैयार करता है। यह रणनीति इसकी उच्च डिकोड गति का लाभ उठाने और उत्तर की गुणवत्ता बढ़ाने के लिए अपनाई गई है।

स्रोत: Hacker News · HeadlinesBriefing द्वारा सारांशित