सितंबर 2026 में, NVIDIA ने घोषणा की कि वह Rust में नेटिव GPU प्रोग्रामिंग पर जोर दे रहा है। CUDA C++ और CUDA Python परिपक्व, एंटरप्राइज़-ग्रेड टूलचेन हैं, और NVIDIA 2027 और उसके बाद तक CUDA Rust को विकसित और परिपक्व करेगा। AI की सिस्टम परत में इन्फरेंस इंजन, सर्विंग इन्फ्रास्ट्रक्चर, ड्राइवर और एजेंट रनटाइम शामिल हैं, और यह लगातार बदलती रहती है। इसका अधिक से अधिक हिस्सा Rust में लिखा जा रहा है। NVIDIA उस बदलाव का हिस्सा है। Nova Linux ड्राइवर Rust में लिखा गया है। NVIDIA Dynamo एक Rust कोर पर बनाया गया है। NVTX में Rust बाइंडिंग हैं।

GPU कर्नेल अपवाद है। आप Rust से कर्नेल लॉन्च कर सकते हैं, लेकिन कर्नेल को अक्सर किसी अन्य भाषा में लिखना पड़ता है। NVIDIA CUDA Rust उस अंतर को भरता है। GPU कर्नेल Rust में लिखे जा सकते हैं, नेटिव रूप से PTX में संकलित किए जा सकते हैं, न कि कहीं और से कोड के चारों ओर एक रैपर के रूप में।

Rust का उपयोग करने के दो ट्रैक हैं, जो CUDA के दो ट्रैक से मेल खाते हैं। SIMT वह मॉडल है जिसे आप पहले से ही CUDA C++ या numba-cuda में लिखते हैं। Tile एक नया प्रोग्रामिंग मॉडल है, जो C++ और Python में भी उपलब्ध है। जब आप इस पर निर्माण करने के लिए कोई एक चुन रहे हों, तो पहले Tile को चुनें। कंपाइलर तय करता है कि टाइल्स प्रत्येक आर्किटेक्चर पर कैसे मैप होते हैं, इसलिए आपका सोर्स आर्किटेक्चर-विशिष्ट विकल्पों को एन्कोड नहीं करता, और जब आपको वह नियंत्रण चाहिए तो आप SIMT पर उतर आते हैं।

नीचे प्रत्येक ट्रैक पर वही कर्नेल है, जो 1,024 फ्लोट्स पर एलिमेंटवाइज़ जोड़ करता है। SIMT ट्रैक: cuda-oxide एक कस्टम rustc कोडजेन बैकएंड है। यह कंपाइलेशन को इंटरसेप्ट करता है, #[kernel] फ़ंक्शंस को Rust MIR, कम्युनिटी Pliron IR फ्रेमवर्क और LLVM IR के माध्यम से PTX तक रूट करता है।

मुख्य इकाइयाँ: कंपनियाँ: NVIDIA, NVlabs