HeadlinesBriefing HeadlinesBriefing.com

Muse Spark Open: अब तक का सबसे सक्षम अमेरिकी ओपन-वेट मॉडल

Hacker News •
×

Muse Spark Open अब उपलब्ध है, और इसके वेट्स अब तक के सबसे सक्षम अमेरिकी ओपन-वेट मॉडल के रूप में जारी किए जा रहे हैं। यह मूल रूप से मल्टीमोडल है, जिसमें 816B कुल पैरामीटर (42B सक्रिय) और 1M-टोकन संदर्भ विंडो है। कोडिंग और एजेंटिक कार्यों के लिए बनाया गया, यह लंबी अवधि के कार्यों, जटिल सॉफ़्टवेयर इंजीनियरिंग और बहु-चरण तर्क में उत्कृष्ट है।

पहली बार, इस श्रेणी का एक उन्नत मॉडल डेस्कटॉप पर चल सकता है। नवीनतम MLX फ्रेमवर्क के साथ दो Apple M5 Ultra Mac Studio का उपयोग करके, मशीनें अपनी यूनिफाइड मेमोरी को जोड़कर पूरे मॉडल को संग्रहित करती हैं। Apple की यूनिफाइड मेमोरी आर्किटेक्चर हर M5 Ultra के इंटीग्रेटेड GPU को 512 GB तक मेमोरी का उपयोग करने देती है, और चिप की 1.2 TB/s मेमोरी बैंडविड्थ हर टोकन के लिए आवश्यक छोटे हिस्से को तेज़ी से पढ़ती है। परीक्षकों ने पूरी तरह डिवाइस पर एजेंटिक वर्कफ़्लो चलाए, जिनमें ओपन-सोर्स Mastodon क्लाइंट Ice Cubes के लिए वास्तविक iOS बदलाव भेजना और Da Vinci Resolve को शुरू से अंत तक चलाना शामिल था।

यह मॉडल Baseten, Fireworks AI, Groq, Modal, Nebius, Open Router और Together AI जैसे API प्लेटफ़ॉर्म के माध्यम से उपलब्ध है। वेट्स Amazon SageMaker AI, Google Cloud Model Garden, Hugging Face और Microsoft Foundry Models से डाउनलोड किए जा सकते हैं। यह SGLang, vLLM, TensorRT-LLM, Hugging Face Transformers, Apple MLX, llama.cpp और Unsloth जैसे इंजनों पर चलता है, जिसमें AMD, Apple, Intel और NVIDIA सिलिकॉन के लिए अनुकूलन है। SGLang में कस्टम Helion GPU कर्नल NVIDIA और AMD GPU पर 1.03-3.95× कर्नल-स्तरीय गति-वृद्धि देते हैं।

वेट्स Muse मॉडल लाइसेंस के तहत जारी किए गए हैं, जिसकी व्यावसायिक शर्तें सीमित हैं और जो कई डेवलपर्स को मॉडल मुफ़्त में उपयोग करने देता है। अतिरिक्त सुरक्षा पोस्ट-ट्रेनिंग लागू की गई थी, और मॉडल ने Meta Superintelligence Scaling Framework की रिलीज़ सीमाएँ पूरी कीं। पूरी मूल्यांकन रिपोर्ट जल्द आने की उम्मीद है।

स्रोत: Hacker News · HeadlinesBriefing द्वारा सारांशित