Muse Spark Open এখন উপলব্ধ, এবং এর ওয়েটগুলো এখন পর্যন্ত সবচেয়ে সক্ষম মার্কিন ওপেন-ওয়েট মডেল হিসেবে প্রকাশ করা হচ্ছে। এটি স্থানীয়ভাবে মাল্টিমোডাল, যার মোট 816B প্যারামিটার (42B সক্রিয়) এবং 1M-টোকেন প্রসঙ্গ উইন্ডো রয়েছে। কোডিং ও এজেন্টিক কাজের জন্য তৈরি এই মডেলটি দীর্ঘমেয়াদি কাজ, জটিল সফটওয়্যার ইঞ্জিনিয়ারিং এবং বহু-ধাপের যুক্তিতে পারদর্শী।
প্রথমবারের মতো, এই শ্রেণির একটি উন্নত মডেল ডেস্কটপে চালানো সম্ভব হয়েছে। নতুন MLX ফ্রেমওয়ার্ক সহ দুটি Apple M5 Ultra Mac Studio ব্যবহার করে, মেশিনগুলো তাদের ইউনিফাইড মেমরি একত্র করে পুরো মডেলটি ধরে রাখে। Apple-এর ইউনিফাইড মেমরি আর্কিটেকচার প্রতিটি M5 Ultra-এর ইন্টিগ্রেটেড GPU-কে সর্বোচ্চ 512 GB ব্যবহার করতে দেয়, এবং চিপের 1.2 TB/s মেমরি ব্যান্ডউইথ প্রতিটি টোকেনের প্রয়োজনীয় ছোট অংশটি দ্রুত পড়তে পারে। পরীক্ষকরা সম্পূর্ণ ডিভাইসে এজেন্টিক ওয়ার্কফ্লো চালিয়েছেন, যার মধ্যে ওপেন-সোর্স Mastodon ক্লায়েন্ট Ice Cubes-এর জন্য প্রকৃত iOS পরিবর্তন পাঠানো এবং Da Vinci Resolve প্রান্ত থেকে প্রান্ত পর্যন্ত চালানো অন্তর্ভুক্ত ছিল।
মডেলটি Baseten, Fireworks AI, Groq, Modal, Nebius, Open Router এবং Together AI সহ API প্ল্যাটফর্মের মাধ্যমে পাওয়া যায়। ওয়েটগুলো Amazon SageMaker AI, Google Cloud Model Garden, Hugging Face এবং Microsoft Foundry Models থেকে ডাউনলোড করা যায়। এটি SGLang, vLLM, TensorRT-LLM, Hugging Face Transformers, Apple MLX, llama.cpp এবং Unsloth-এর মতো ইঞ্জিনে চলে, যেখানে AMD, Apple, Intel এবং NVIDIA সিলিকনের জন্য অপ্টিমাইজেশন রয়েছে। SGLang-এর কাস্টম Helion GPU কার্নেল NVIDIA ও AMD GPU-তে 1.03-3.95× কার্নেল-স্তরের গতি বাড়ায়।
ওয়েটগুলো Muse Model License-এর অধীনে প্রকাশিত, যার বাণিজ্যিক শর্ত সীমিত এবং যা অনেক ডেভেলপারকে বিনামূল্যে মডেলটি ব্যবহার করতে দেয়। অতিরিক্ত নিরাপত্তা পোস্ট-ট্রেনিং প্রয়োগ করা হয়েছে, এবং মডেলটি Meta Superintelligence Scaling Framework-এর প্রকাশের সীমা পূরণ করেছে। সম্পূর্ণ মূল্যায়ন প্রতিবেদন শীঘ্রই আসার প্রত্যাশা করা হচ্ছে।
উৎস: Hacker News · সারাংশ: HeadlinesBriefing