GPU-त्वरित मशीन लर्निंग इन्फेरेंस की बढ़ती मांग ने केंद्रीकृत GPU इन्फ्रास्ट्रक्चर की सीमाओं को उजागर कर दिया है, जो अक्सर उच्च लागत, सीमित लचीलेपन और संसाधनों की कमी की स्थिति में लंबी प्रतीक्षा अवधि से जूझता है। इसी बीच, आधुनिक Apple Silicon आधारित macOS उपकरणों में शक्तिशाली GPU होते हैं, जो रोजमर्रा के उपयोग के दौरान ज्यादातर निष्क्रिय पड़े रहते हैं।
एक नया शोधपत्र Minions प्रस्तुत करता है, जो एक गतिशील और वितरित वर्चुअल GPU क्लाउड है और बड़े पैमाने के मशीन लर्निंग इन्फेरेंस वर्कलोड चलाने के लिए macOS उपकरणों पर इन निष्क्रिय Apple Silicon GPU को एकत्र करता है। चूंकि यह मौजूदा हार्डवेयर का उपयोग करता है, इसलिए टीमें अतिरिक्त GPU खरीदे बिना अपनी कंप्यूट क्षमता बढ़ा सकती हैं।
यह प्रणाली लचीले GPU इन्फेरेंस कार्य निष्पादन को संभालने, फॉल्ट टॉलरेंस देने और संसाधनों का कुशल उपयोग करने के लिए बनाई गई है। इसके डिज़ाइनरों का कहना है कि यह दृष्टिकोण उन्हीं संसाधन-साझाकरण सिद्धांतों पर निर्भर है जो अन्य परिस्थितियों में वितरित कंप्यूटिंग को व्यावहारिक बनाते हैं, जिन्हें यहां उपभोक्ता-श्रेणी की मशीनों के लिए अनुकूलित किया गया है।
लेखकों के अनुभव से पता चलता है कि निष्क्रिय macOS उपकरणों को एक व्यावहारिक वितरित GPU इन्फेरेंस प्लेटफॉर्म में बदला जा सकता है, खासकर उन वातावरणों में जहां केंद्रीकृत GPU संसाधन दुर्लभ हैं।
स्रोत: Hacker News · HeadlinesBriefing द्वारा सारांशित