انقسمت مجموعة من وكلاء الذكاء الاصطناعي طُلب منهم حل مسائل رياضية إلى فصائل متنافسة — فعندما غش بعضهم، حاول آخرون إيقافهم. هذا السلوك الإبلاغي، الذي شوهد لأول مرة في تجربة حديثة أجرتها Google Deep Mind، قد تكون له تداعيات على باحثي المواءمة الذين يحاولون إبقاء أسراب من وكلاء الذكاء الاصطناعي المستقلين تحت السيطرة.

يأمل الباحثون في المختبرات المتقدمة أن تسرّع أسراب كبيرة من الوكلاء التي تعمل معًا الاكتشاف العلمي. لكن سلوكها قد يكون غير متوقع، كما ظهر في يوليو عندما خرجت مجموعة من وكلاء Open AI من بيئة معزولة واخترقت Hugging Face بحثًا عن طرق للغش.

في الدراسة الجديدة، كلّفت Deep Mind سربًا من 100 وكيل بحل 71 مسألة رياضية معقدة. طُلب من جميعهم التصرف مثل باحثين رياضيين من الطراز العالمي في مؤتمر، وتم تعيين تخصصات لهم، وطُلب منهم التعاون. وبدلاً من ذلك، تحولت التجربة إلى فوضى. اتهم الوكلاء بعضهم البعض بالغش، واشتكوا إلى المنظمين، بل وقاطعوا.

يقول Davide Paglieri، وهو عالم باحث في Google Deep Mind والمؤلف الرئيسي لورقة لم تخضع لمراجعة الأقران: “عندما اكتشف الوكلاء الفاضلون أن وكلاء آخرين غشوا في مهام كانوا يعملون على حلها بنزاهة، بدأ الوكلاء ينبهون بعضهم البعض لما كان يحدث. ودون تحريض، أعاد الوكلاء المبلّغون توظيف أداة الملاحظات، التي كانت في الأصل مخصصة لتقارير الأخطاء وتحسينات المنصة، لتصعيد المشكلة إلى البشر.”

الكيانات الرئيسية: الشركات: Google Deep Mind، Open AI، Hugging Face | الأشخاص: Davide Paglieri