स्थानीय AI अधिक उपयोगी होता जा रहा है क्योंकि सक्षम ओपन मॉडल छोटे होकर अधिक उपकरणों पर फिट होने लगे हैं। इस महीने, NVIDIA DGX Spark शीर्ष निर्माता भागीदारों—Acer, ASUS, Dell, Gigabyte, HP और MSI—से 64 GB यूनिफाइड मेमोरी के साथ उपलब्ध होगा, जो डेवलपर्स, शोधकर्ताओं और AI उत्साही लोगों को DGX OS और NVIDIA AI सॉफ्टवेयर स्टैक के साथ एक नया कॉन्फ़िगरेशन देगा, जो पहले दिन से उपयोग के लिए तैयार है। नया SKU डिवाइस पर सक्षम स्थानीय एजेंट चलाता है—निजी तौर पर, क्लाउड निर्भरता के बिना। जब वर्कलोड बढ़ता है, तो दो यूनिट बिना किसी अतिरिक्त सेटअप के NVIDIA Sync Cluster Assistant के माध्यम से क्लस्टर हो सकती हैं।
DGX Spark एक सिस्टम में NVIDIA Grace Blackwell कंप्यूट, यूनिफाइड मेमोरी, NVIDIA Connect X-7 नेटवर्किंग और NVIDIA CUDA-त्वरित AI सॉफ्टवेयर स्टैक को जोड़ता है। नया 64 GB कॉन्फ़िगरेशन, विशेष रूप से निर्माता भागीदारों के माध्यम से उपलब्ध, GB10 Grace Blackwell Superchip, DGX OS और पूर्ण NVIDIA AI सॉफ्टवेयर स्टैक—128 GB मॉडल के समान—को बनाए रखते हुए प्लेटफॉर्म को एक सुलभ मूल्य बिंदु पर रखता है। यह 100 बिलियन पैरामीटर तक के मॉडल और उन पर बने एजेंटिक अनुप्रयोगों का पूरी तरह से डिवाइस पर समर्थन करता है।
दो 64 GB यूनिट एक साथ क्लस्टर होने पर NVIDIA के Qwen 3.8 27B परीक्षण में एकल सिस्टम की तुलना में 1.7x तक प्रदर्शन प्रदान करती हैं। DGX Spark पहले दिन से एजेंट विकास के लिए तैयार भेजा जाता है—NVIDIA Agent Toolkit, CUDA-X AI लाइब्रेरी, Nemotron ओपन मॉडल, और Ollama, vLLM, और PyTorch with CUDA जैसे लोकप्रिय रनटाइम बॉक्स से बाहर समर्थित हैं। Blender प्लेटफॉर्म का समर्थन करने वाले पहले प्रमुख क्रिएटर एप्लिकेशन प्रदाताओं में से एक है।
प्रत्येक DGX Spark एक अंतर्निहित NVIDIA Connect X-7 NIC के साथ भेजा जाता है। दो यूनिट QSFP केबल के साथ सीधे कनेक्ट हो सकती हैं, मेमोरी को 128 GB तक पूल कर सकती हैं और मॉडल समर्थन को 200 बिलियन पैरामीटर तक विस्तारित कर सकती हैं। NVIDIA Sync ऐप इस मल्टी-नोड क्लस्टर को सहजता से कॉन्फ़िगर करता है। महीने के अंत में, NVIDIA Sync Model Launcher स्थानीय AI चलाने को कुछ बटन क्लिक करने जितना सरल बना देगा।
स्रोत: TechPowerUp News · HeadlinesBriefing द्वारा सारांशित