Apple ने Minions नामक एक नए सिस्टम का विवरण दिया है, जो Apple Silicon Mac में खाली पड़े GPU का उपयोग करके एक वर्चुअल GPU क्लाउड बनाता है। यह सिस्टम बेकार पड़ी प्रोसेसिंग शक्ति को जोड़कर जटिल AI वर्कलोड, खासकर बड़े पैमाने पर मशीन लर्निंग इन्फेरेंस, को संभालता है। Apple Minions को एक गतिशील वर्चुअल GPU क्लाउड के रूप में वर्णित करता है जो कई Mac में खाली Apple Silicon GPU को एकत्र करता है, और इसके शोधकर्ता इसे पहले से ही इन-हाउस उपयोग कर रहे हैं।
इसका मूल विचार सरल है। Mac में शक्तिशाली GPU होते हैं जो अधिकतर समय खाली रहते हैं, खासकर रोजमर्रा के कंप्यूटिंग कार्यों के दौरान। Minions इस बेकार GPU क्षमता को काम में लगाने के लिए बनाया गया है, जिससे कम उपयोग में आने वाले Mac AI के लिए तैयार मशीनों के क्लस्टर में बदल जाते हैं। Mac mini और Mac Studio दोनों Thunderbolt 5 कनेक्शन के जरिए Remote Direct Memory Access (RDMA) से क्लस्टरिंग का समर्थन करते हैं, जिससे कई मशीनों की कंप्यूट और मेमोरी को एक ही वर्कलोड के लिए जोड़ा जा सकता है। Minions इसी अवधारणा का विस्तार है।
Apple के दस्तावेज़ में चार मुख्य घटकों का वर्णन है। Minions Server केंद्रीय समन्वयक के रूप में काम करता है, वेब इंटरफ़ेस और API के माध्यम से अनुरोध संभालता है और जॉब को PostgreSQL मेटाडेटा स्टोर में कतार में रखता है। Minion Executors macOS डिवाइस पर चलते हैं, स्थानीय Apple Silicon GPU पर उप-कार्य करते हैं और परिणाम स्टोरेज में लिखते हैं। यदि कनेक्टिविटी या बिजली की विफलता जैसी कोई समस्या आती है, तो Minion Watchdog जॉब को दूसरी मशीन पर फिर से कतार में डाल देता है। एक डैशबोर्ड पूरी प्रक्रिया की रीयल-टाइम निगरानी प्रदान करता है।
Apple का कहना है कि उसके परीक्षणों में, जिन इन्फेरेंस जॉब को पहले 10 घंटे से अधिक लगते थे, वे अब कुछ ही मिनटों में पूरे हो रहे हैं, बिना अतिरिक्त इन्फ्रास्ट्रक्चर के और आसानी से स्केल करने के विकल्प के साथ। व्यवसायों के लिए, नया हार्डवेयर खरीदे बिना प्रोसेसिंग समय घटाना स्पष्ट लाभ है, खासकर जब कीमतें लगातार बढ़ रही हैं।
स्रोत: AppleInsider · HeadlinesBriefing द्वारा सारांशित