Prime Agent को Rust में फिर से लिखना
अगस्त में Prime Agent के लॉन्च के बाद से डाउनलोड 3 लाख से अधिक हो गए और टोकन प्रोसेसिंग 8 ट्रिलियन से आगे निकल गई। आज टीम ने Rust में शुरुआत से फिर से लिखा गया एक तेज़ और साफ़ संस्करण जारी किया है।
दो हफ्तों में, Prime Agent ने 2,000 से अधिक एजेंटों के एक समूह का संचालन किया, जिसने खुद को शुरू से अंत तक फिर से लिखा। यह 10,000 से अधिक Prime Sandboxes में चला और Prime Inference के GLM-5.3 एंडपॉइंट से 200 अरब से अधिक टोकन का उपयोग किया। इस पुनर्लेखन ने मल्टी-एजेंट क्षमताओं की कठोर जाँच की, जिसमें बड़े पैमाने के एजेंट समूहों के लिए sandbox और inference इंफ्रास्ट्रक्चर, स्वायत्त अनुसंधान और रीइन्फोर्समेंट लर्निंग शामिल हैं।
फीचर पैरिटी सुनिश्चित करने के लिए, Prime Agent ने निर्भरताओं को टोपोलॉजिकल तरीके से क्रमबद्ध करने के लिए सबएजेंट्स का उपयोग किया, और लूप वाली गणनाओं व शुद्धता जाँचों को संरचित करने के लिए finite state machines का इस्तेमाल किया। रखरखाव को आसान बनाने के लिए कोड आर्किटेक्चर को फिर से लिखा गया। प्रदर्शन मेट्रिक्स को बेहतर बनाने और बग्स की पहचान के लिए रनटाइम बेंचमार्क और वास्तविक ट्रेसेज़ का उपयोग किया गया। अब Prime Agent अधिकांश coding agent harnesses से तेज़ चलता है और कम संसाधन लेता है। Rust इंप्लीमेंटेशन ने 1,981 एजेंटों के साथ, डेप्थ 3 पर, 192.99 अरब टोकन प्रोसेस किए, जबकि TypeScript ने 228 एजेंटों के साथ 35.70 अरब टोकन संभाले।
Rust क्यों: TypeScript ने तेज़ी से शिप करने में मदद की, लेकिन वैकल्पिक टाइप्स रनटाइम पर गायब हो जाते हैं, त्रुटियाँ बिना जाँच के exceptions के रूप में आगे बढ़ती हैं, और CPU-भारी काम एक ही event loop पर कीबोर्ड इनपुट के साथ प्रतिस्पर्धा करता है। हर प्रक्रिया JavaScript रनटाइम और garbage collector का बोझ उठाती है। Rust उस लक्ष्य के अनुकूल है जिसमें तेज़ी से शिप करना हो, और जैसे-जैसे कोड बढ़े, उसे ऊँचे मानक पर रखा जा सके। प्रदर्शन में सुधार बिना garbage collector वाले native कोड, प्रति सत्र worker प्रक्रियाओं और स्टार्टअप सुधारों से आता है। Rust के Send और Sync traits से concurrency को लाभ मिलता है, जिससे कंपाइलर थ्रेड्स के बीच डेटा के आवागमन की जाँच कर सकता है। Exhaustive enums, ownership और lifetimes से मिलने वाली compile-time गारंटी बग्स की पूरी श्रेणियों को रोकती है। अतिरिक्त लाभों में Windows समर्थन, सत्र के क्रैश होने पर अलगाव और अधिक सुसंगत daemon protocol शामिल हैं।
लक्ष्य यह था कि एजेंट बिना ज़्यादा मानवीय हस्तक्षेप के स्वायत्त रूप से पुनर्लेखन करें। मानवीय काम का ध्यान बड़े पैमाने पर स्वायत्त डिप्लॉयमेंट के लिए verification सेट करने पर था, जो स्वचालित Rust अनुवाद पर पहले के काम पर आधारित है। हर स्पेसिफिकेशन ने अलग प्रकार की पैरिटी को कवर किया: TUI पैरिटी TypeScript और Rust बाइनरी को एक ही स्क्रिप्टेड मॉडल के सामने साथ-साथ चलाकर टर्मिनल फ़्रेम्स की तुलना करती है। Harness पैरिटी session transcripts और model provider requests की तुलना करती है। Protocol पैरिटी सभी daemon protocol संदेश प्रकारों की TypeScript इंप्लीमेंटेशन से जाँच करती है। फीचर पैरिटी में TypeScript उत्पाद की घटक-दर-घटक ऑडिटिंग शामिल थी। वस्तुनिष्ठ जाँचें APIs और protocols में एकरूपता सुनिश्चित करती हैं।
स्रोत: Hacker News · HeadlinesBriefing द्वारा सारांशित