HeadlinesBriefing favicon HeadlinesBriefing.com

LLMগুলি Rust কোড দ্রুত লিখে রান্ডম লাইব্রেরি গুলির তুলনায়

Hacker News •
×

জানুয়ারি 2025-এ, রাহুল জানানো হয়েছে কি LLMগুলি পুনরাবৃত্তিভাবে 'একটি ভালো কোড লিখো' বলে কোডটি সংশোধন করতে পারে। যাত্রা Claude Sonnet 3.5 ফিচার যোগ করে, কিন্তু হিপোথেসিস পরিবর্তিত হয়: কি এজেন্টিক LLMগুলি উচ্চ কার্যক্ষম Rust কোড লিখতে পারে, Python-এর সাথে PyO3-এর মাধ্যমে যুক্ত করে, স্থাপনাগত লাইব্রেরি গুলির তুলনায় বেশি দ্রুত হয়? মাসের মতো টেস্টিংয়ের পর, রাহুল নিশ্চিত করেছেন যে আধুনিক এজেন্টগুলি Rust ইমপ্লিমেন্টেশনকে 2x-20x দ্রুত করতে পারে, proper guardrails সহ (যেমন `unsafe` কোড নিষেধ করা, criterion-এর জন্য সাংখ্যিক বেঞ্চমার্ক ব্যবহার করা)।

মূল টেস্ট কেসটি UMAP ছিল, একটি ডাইমেনশনালিটি রিডকশন অ্যালগোরিদম যা Python-এ স্কেল করতে সমস্যা সৃষ্টি করে। মৌজুদা crates যেমন `umap-rs`-কে ফোর্ক করার বদলে, এজেন্টটি মিনিমাল ডিপেন্ডেন্সি সহ অ্যালগোরিদমটি স্ক্র্যাচ থেকে লিখেছিল যাতে লো-লেভেল অপ্টিমাইজেশন সম্ভব হয়। Opus 4.5-টি ভিন্ন ইনপুট সাইজের মধ্যে বেঞ্চমার্ক জেনারেট করেছিল, criterion-এর আউটপুটের ভিত্তিতে ইটারেটিভ রূপে রিফাইন করেছিল।

এই 'benchmaxxing' পদ্ধতি Rust-এর মেমরি সেফটি এবং WASM কম্পাইলেশনের সম্ভাবনা ব্যবহার করে। রাহুল জোর দেন যে এটি স্পেকুলেটিভ নয়: প্রম্প্টগুলি এবং বেঞ্চমার্ক ফলাফলগুলি অন্তর্ভুক্ত আছে, যা দেখায় যে ইটারেটিভ এজেন্টিক অপ্টিমাইজেশন এখন প্রোডাকশন-গ্রেড, হাই-পারফরম্যান্স সিস্টেম কোড উৎপন্ন করে।