Pada September 2026, NVIDIA mengumumkan bahwa mereka menggenjot pemrograman GPU native di Rust. CUDA C++ dan CUDA Python adalah toolchain matang kelas perusahaan, dan NVIDIA akan mengembangkan serta mematangkan CUDA Rust hingga 2027 dan seterusnya. Lapisan sistem AI mencakup mesin inferensi, infrastruktur penyajian, driver, dan runtime agen, dan terus berubah. Semakin banyak bagiannya ditulis dalam Rust. NVIDIA adalah bagian dari pergeseran itu. Driver Nova Linux ditulis dalam Rust. NVIDIA Dynamo dibangun di atas inti Rust. NVTX memiliki binding Rust.

Kernel GPU adalah pengecualiannya. Anda dapat meluncurkan kernel dari Rust, tetapi kernel itu sendiri sering kali harus ditulis dalam bahasa lain. NVIDIA CUDA Rust menutup celah itu. Kernel GPU dapat ditulis dalam Rust, dikompilasi secara native ke PTX, bukan sebagai pembungkus kode dari tempat lain.

Ada dua jalur untuk menggunakan Rust, sesuai dengan dua jalur yang dimiliki CUDA sendiri. SIMT adalah model yang sudah Anda tulis di CUDA C++ atau numba-cuda. Tile adalah model pemrograman yang lebih baru, juga tersedia di C++ dan Python. Saat Anda memilih salah satu untuk dibangun, pilihlah Tile terlebih dahulu. Kompilator memutuskan bagaimana tile dipetakan ke setiap arsitektur, sehingga sumber Anda tidak menyandikan pilihan khusus arsitektur, dan Anda turun ke SIMT saat Anda membutuhkan kendali itu.

Di bawah ini adalah kernel yang sama pada setiap jalur, yang melakukan penjumlahan elementwise atas 1.024 float. Jalur SIMT: cuda-oxide adalah backend codegen rustc khusus. Ia mencegat kompilasi, mengarahkan fungsi #[kernel] melalui Rust MIR, kerangka kerja Pliron IR komunitas, dan LLVM IR hingga ke PTX.

Entitas Kunci: Perusahaan: NVIDIA, NVlabs