HeadlinesBriefing favicon HeadlinesBriefing.com

LangGraph-সহ এজেন্টিক CUDA কার্নেল অপ্টিমাইজার

Hacker News •
×

এই প্রকল্পটি একটি এজেন্টিক CUDA কার্নেল অপ্টিমাইজার প্রস্তুত করে যা স্বয়ংক্রিয় কোড জেনারেশন, সঠিকতা পরীক্ষা, বেঞ্চমার্কিং এবং উন্নয়নের মাধ্যমে কর্মভারের বিবরণকে GPU বাস্তবায়নে রূপান্তরিত করে। LangGraph দ্বারা চালিত, এজেন্টটি কার্নেল বাস্তবায়ন এবং লঞ্চ কনফিগারেশন খোঁজে, GPU বৈশিষ্ট্য জিজ্ঞাসা করে, এবং NVIDIA ডকুমেন্টেশন গবেষণা করে অপ্টিমাইজেশন নির্দেশনা পেতে পারে। এটি পরীক্ষার পরের পরীক্ষা নির्णয়ের জন্য Nsight Compute কাউন্টার들도 পরীক্ষা করে। প্রতিটি পরীক্ষা নিবন্ধিত করা হয়, এবং সবচেয়ে দ্রুত যাচাইকৃত বাস্তবায়নটি রাখা হয়।

মডেলটি উভয় কার্নেল কোড এবং প্রতিটি কেসের জন্য লঞ্চ কনফিগারেশন পরিবর্তন করতে পারে। একটি স্বতন্ত্র C++ হারনেস NVRTC-এর সাথে কার্নেলগুলো কম্পাইল করে, CUDA ড্রাইভার API-এর মাধ্যমে চালায়, এবং আউটপুটগুলো সংরক্ষণ করে। Python তুলনা এবং প্রার্থী বাছাই পরিচালনা করে। এই সিস্টেমকে Python 3.12+, একটি NVIDIA GPU, এবং সামঞ্জস্যপূর্ণ CUDA টুলকিট/ড্রাইভার প্রয়োজন, সঙ্গে CMake 3.24+ এবং একটি C++17 কম্পাইলারও। সেটআপে একটি ভার্চুয়াল পরিবেশ তৈরি করা, নির্ভরতাগুলো ইনস্টল করা, এবং Visual Studio 2026-এর সাথে বিল্ড কনফিগার করা অন্তর্ভুক্ত।

ব্যবহারকারী কর্মভারের বিবরণের সাথে অপ্টিমাইজার চালাতে পারে, যেমন "আಯতাকার ম্যাট্রিক্সের সাথে সিঙ্গল-প্রিসিজন GEMM"، এবং সর্বোচ্চ পুনরাবৃত্তি সংখ্যা নির্দিষ্ট করতে পারে। ডিফল্ট মডেল gpt-5-mini، মধ্যম তর্ক প্রচেষ্টার সাথে, এবং API ব্যবহার ব্যবহারকারীর অ্যাকাউন্টে বিল করা হয়। ঐচ্ছিক ফ্ল্যাগ Nsight Compute এর সাথে প্রোফাইলিং সক্ষম করে এবং কার্নেল জেনারেশন से पहले NVIDIA গবেষণা নির্দেশনা পেতে সক্ষম করে।

মुख্য entidades: কোম্পানিগুলো: NVIDIA, OpenAI | অবস্থান: Windows, RTX 3060 Laptop GPU

সामान्य প্রশ্ন: এজেন্টিক CUDA কার্নেল অপ্টিমাইজার কি?

এটি একটি সিস্টেম যা কর্মভারের বিবরণের ভিত্তিতে CUDA কার্নেলগুলো স্বয়ংক্রিয়ভাবে তৈরি, পরীক্ষা এবং উন্নত করতে AI এজেন্টদের ব্যবহার করে, LangGraph-এর মাধ্যমে কর্মপ্রবাহ ব্যবস্থাপনা করে এবং Nsight Compute-এর মাধ্যমে কর্মক্ষমতা প্রোফাইলিং করে।