HeadlinesBriefing favicon HeadlinesBriefing.com

مليون وكيل: مشكلة أنظمة موزعة

Hacker News •
×

أفكر في الوكلاء بالطريقة التي أفكر بها في الناس. وكيل واحد هو عامل. ألف وكيل هم منظمة، ومنظمة الآلات هي نظام موزع. يخبرني الناس باستمرار أن الوكلاء يمكنهم العمل إلى الأبد. تقنيًا هذا صحيح. يمكنك استدعاء نموذج في حلقة حتى يتم رفض بطاقتك الائتمانية. لكن الوكيل لا يزال يعمل على أشياء محدودة: الرموز، السياق، الحوسبة، الذاكرة، الأدوات، المال. دائمًا ما ينفد شيء ما. البشر ليسوا مختلفين كثيرًا. نعمل لفترة ونتعب. ذاكرتنا العاملة صغيرة. ننسى الأشياء. لذلك نكتب الأجزاء المهمة، وننام، ونعود في الصباح التالي بعقل صافٍ ونفس الهوية. الآلات لديها نفس القيد بشكل مختلف. الصندوق ينفد من وحدة المعالجة المركزية. البود ينفد من الذاكرة. لا أحد يصلح ذلك بافتراض أن كل عملية يجب أن تعيش إلى الأبد. نحن نجدولة العمل على الموارد التي لدينا. لا أرى لماذا يحصل الذكاء على استثناء. يمكن للوكيل أن يعمل لفترة، ويكتب ما يهم، ويمسح سياقه، ويترك نفسه أو وكيلًا آخر يستأنف من هناك. نقوم بتشغيل وكلاء البرمجة الخاصين بنا على VPS في Ins Forge، ويتم قتلهم وإعادة تشغيلهم وينفد سياقهم طوال الوقت. الإخفاقات التي تؤذي حقًا هي تلك التي عاشت فيها الخطة فقط داخل نافذة سياق الوكيل.

إضافة الوكلاء ساعدت العمل المتوازي بنسبة تصل إلى 80.9% وأضرت العمل التسلسلي بنسبة 39% إلى 70% في دراسة Google Research المكونة من 180 تكوينًا. شكل المهمة يقرر. قلل المنسق تضخيم الخطأ من 17.2× إلى 4.4× في نفس الدراسة. التنسيق وظيفة حقيقية. في Silo-Bench (ACL 2026)، تحدثت فرق من 2 إلى 100 وكيل كثيرًا واستدلت بشكل سيء. أصعب المهام وصلت إلى نجاح صفري عند 50 وكيلًا. لذا فإن الشيء الدائم يجب أن يكون الحالة، وليس الوكيل. جدولة الوكلاء مثل العمليات واستعادتهم مثل العقد.

بدأ الوكلاء يبدون مثل العمليات. توقف هذا عن كونه تشبيهًا منذ فترة. هناك خط بحث كامل يبنيه. AIOS، "نظام تشغيل وكلاء LLM" من Rutgers، يفتتح المشكلة في جملة واحدة: "السماح بالوصول غير المقيد إلى موارد LLM أو الأدوات يمكن أن يؤدي إلى تخصيص واستخدام موارد غير فعال أو حتى ضار للوكلاء." إجابتهم هي نواة. يتم تقسيم كل طلب وكيل إلى استدعاءات نظام، ويقرر المجدول أي استدعاء يعمل بعد ذلك، ويدير مدير السياق لقطة للوكيل في منتصف المهمة بحيث يمكن مقاطعته واستئنافه. يبلغون عن تنفيذ أسرع يصل إلى 2.1× عند خدمة الوكلاء المبنيين على الأطر الحالية. الجدولة، تبديل السياق، إدارة الذاكرة، التخزين، التحكم في الوصول. هذا نظام تشغيل. العمليات فقط تصادف أنها تفكر.

إنه يدفع أيضًا على مستوى أعلى. LLM-as-Scheduler، من ACL 2026، يبدأ من ملاحظة أن معظم الاستعلامات لا تستحق سير عمل متعدد الوكلاء ثقيل، ويترك للمجدول اختيار سير العمل لكل استعلام. حصلوا على 43% رموز أقل وأكثر من 36% زمن استجابة أقل من النهاية إلى النهاية، مع انخفاض في الدقة بمقدار 1.4 نقطة مئوية على الأكثر مقابل سير عمل ثابت قوي. لذا فإن وكيلًا واحدًا يبدو كعملية، وآلاف العمليات تحتاج إلى مجدول. حسنًا. لكن جدولة الحوسبة هي نصف الأمر فقط. عليك أيضًا تنسيق الوكلاء مع بعضهم البعض، وهنا يصبح الأمر مثيرًا للاهتمام. عشرة أشخاص ينسقون. عشرة آلاف يخترعون مديرين. عشرة أشخاص يمكنهم تنسيق أنفسهم في غرفة. ألف شخص لا يمكنهم جميعًا التحدث مع بعضهم البعض واتخاذ القرار بشكل مستقل بشأن ما يجب أن تفعله الشركة، لذلك اخترعنا الفرق والمديرين والأقسام وفي النهاية رئيس تنفيذي. المديرون موجودون جزئيًا لأن التنسيق هو في حد ذاته عمل، ويجب على شخص ما القيام به. افترضت أن الوكلاء سيواجهون نفس المشكلة. الآن هناك بيانات. أجرت Google Research وMIT دراسة مضبوطة لـ 180 تكوينًا للوكلاء عبر خمس بنيات وثلاث عائلات نماذج. عنوانهم الرئيسي: "نهج 'المزيد من الوكلاء' غالبًا ما يصل إلى سقف، ويمكن أن..."