यह परियोजना एक एजेंटिक CUDA कर्नेल ऑप्टिमाइज़र पेश करती है जो स्वचालित कोड जनरेशन, सहीपन जाँच, बेंचमार्किंग और सुधार के माध्यम से कार्यभार विवरणों को GPU कार्यान्वयन में बदल देती है। LangGraph द्वारा संचालित, एजेंट कर्नेल कार्यान्वयन और लॉन्च कॉन्फ़िगरेशन की खोज करता है, GPU गुणों की जाँच करता है, और NVIDIA दस्तावेज़ का अनुसंधान करके अनुकूलन मार्गदर्शन प्राप्त कर सकता है। यह अपने अगले प्रयोग को सूचित करने के लिए Nsight Compute काउंटर्स की भी जाँच करता है। प्रत्येक प्रयोग दर्ज किया जाता है, और सबसे तेज़ मान्य कार्यान्वयन को बनाए रखा जाता है।

मॉडल दोनों कर्नेल कोड और प्रति-केस लॉन्च कॉन्फ़िगरेशन बदल सकता है। एक स्वतंत्र C++ हार्नेस NVRTC के साथ कर्नेल्स को संकलित करता है, CUDA ड्राइवर API के माध्यम से उन्हें लॉन्च करता है, और आउटपुट को सेव करता है। Python तुलना और उम्मीदवार चयन को संभालता है। इस प्रणाली को Python 3.12+, एक NVIDIA GPU, और संगत CUDA टूलकिट/ड्राइवर की आवश्यकता होती है, साथ ही CMake 3.24+ और एक C++17 कंपाइलर की भी आवश्यकता होती है। सेटअप में एक आभासी वातावरण बनाना, निर्भरताएँ स्थापित करना, और Visual Studio 2026 के साथ बिल्ड कॉन्फ़िगर करना शामिल है।

उपयोगकर्ता कार्यभार विवरण के साथ ऑप्टिमाइज़र चला सकते हैं, जैसे "आयताकार मैट्रिक्स के साथ सिंगल-प्रिसिज़न GEMM", और अधिकतम पुनरावृत्तियों की संख्या निर्दिष्ट कर सकते हैं। डिफ़ॉल्ट मॉडल gpt-5-mini है, मध्यम तर्क प्रयास के साथ, और API उपयोग उपयोगकर्ता के खाते में बिल किया जाता है। वैकल्पिक झंडे Nsight Compute के साथ प्रोफाइलिंग को सक्षम करते हैं और कर्नेल जनरेशन से पहले NVIDIA अनुसंधान मार्गदर्शन प्राप्त करते हैं।

मुख्य इकाइयाँ: कंपनियाँ: NVIDIA, OpenAI | स्थान: Windows, RTX 3060 Laptop GPU

अक्सर पूछे जाने वाले प्रश्न: एजेंटिक CUDA कर्नेल ऑप्टिमाइज़र क्या है?

यह एक प्रणाली है जो AI एजेंट्स का उपयोग करके कार्यभार विवरणों पर आधारित CUDA कर्नेल्स को स्वचालित रूप से उत्पन्न, परीक्षण और सुधार करती है, LangGraph का उपयोग करके वर्कफ़्लो प्रबंधन करती है और Nsight Compute का उपयोग करके प्रदर्शन प्रोफाइलिंग करती है।