স্থানীয় AI আরও উপযোগী হয়ে উঠছে কারণ সক্ষম ওপেন মডেলগুলি ছোট হয়ে আরও ডিভাইসে ফিট হচ্ছে। এই মাসে, NVIDIA DGX Spark শীর্ষ নির্মাতা অংশীদারদের—Acer, ASUS, Dell, Gigabyte, HP এবং MSI—কাছ থেকে 64 GB ইউনিফাইড মেমোরি সহ উপলব্ধ হবে, যা ডেভেলপার, গবেষক এবং AI উত্সাহীদের DGX OS এবং NVIDIA AI সফ্টওয়্যার স্ট্যাক সহ একটি নতুন কনফিগারেশন দেবে, প্রথম দিন থেকেই ব্যবহারের জন্য প্রস্তুত। নতুন SKU ডিভাইসে সক্ষম স্থানীয় এজেন্ট চালায়—ব্যক্তিগতভাবে, ক্লাউড নির্ভরতা ছাড়া। যখন ওয়ার্কলোড বাড়ে, দুটি ইউনিট অতিরিক্ত সেটআপ ছাড়াই NVIDIA Sync Cluster Assistant-এর মাধ্যমে ক্লাস্টার করতে পারে।
DGX Spark একটি সিস্টেমে NVIDIA Grace Blackwell কম্পিউট, ইউনিফাইড মেমোরি, NVIDIA Connect X-7 নেটওয়ার্কিং এবং একটি NVIDIA CUDA-ত্বরিত AI সফ্টওয়্যার স্ট্যাক একত্রিত করে। নতুন 64 GB কনফিগারেশন, শুধুমাত্র নির্মাতা অংশীদারদের মাধ্যমে উপলব্ধ, GB10 Grace Blackwell Superchip, DGX OS এবং সম্পূর্ণ NVIDIA AI সফ্টওয়্যার স্ট্যাক—128 GB মডেলের মতো—বজায় রেখে প্ল্যাটফর্মটিকে একটি সাশ্রয়ী মূল্যের পয়েন্টে রাখে। এটি 100 বিলিয়ন প্যারামিটার পর্যন্ত মডেল এবং তাদের উপর নির্মিত এজেন্টিক অ্যাপ্লিকেশনগুলিকে সম্পূর্ণরূপে ডিভাইসে সমর্থন করে।
দুটি 64 GB ইউনিট একসাথে ক্লাস্টার করা NVIDIA-এর Qwen 3.8 27B পরীক্ষায় একটি একক সিস্টেমের তুলনায় 1.7x পর্যন্ত পারফরম্যান্স প্রদান করে। DGX Spark প্রথম দিন থেকেই এজেন্ট ডেভেলপমেন্টের জন্য প্রস্তুত পাঠানো হয়—NVIDIA Agent Toolkit, CUDA-X AI লাইব্রেরি, Nemotron ওপেন মডেল এবং Ollama, vLLM এবং PyTorch with CUDA-র মতো জনপ্রিয় রানটাইম বক্সের বাইরে সমর্থিত। Blender প্ল্যাটফর্মটিকে সমর্থনকারী প্রথম প্রধান ক্রিয়েটর অ্যাপ্লিকেশন প্রদানকারীদের মধ্যে একটি।
প্রতিটি DGX Spark একটি অন্তর্নির্মিত NVIDIA Connect X-7 NIC সহ পাঠানো হয়। দুটি ইউনিট QSFP কেবলের সাথে সরাসরি সংযোগ করতে পারে, মেমোরি 128 GB পর্যন্ত পুল করতে পারে এবং মডেল সমর্থন 200 বিলিয়ন প্যারামিটার পর্যন্ত প্রসারিত করতে পারে। NVIDIA Sync অ্যাপ এই মাল্টি-নোড ক্লাস্টারটি নির্বিঘ্নে কনফিগার করে। মাসের শেষে, NVIDIA Sync Model Launcher স্থানীয় AI চালানোকে কয়েকটি বোতাম ক্লিক করার মতো সহজ করে তুলবে।
উৎস: TechPowerUp News · সারাংশ: HeadlinesBriefing