गणित की समस्याओं को हल करने के लिए कहे गए AI एजेंट्स का एक समूह प्रतिद्वंद्वी गुटों में बंट गया—जब कुछ ने धोखाधड़ी की, तो अन्य ने उन्हें रोकने की कोशिश की। यह शिकायत करने वाला व्यवहार, जो हाल ही में Google Deep Mind द्वारा चलाए गए एक प्रयोग में पहली बार देखा गया, उन alignment शोधकर्ताओं के लिए निहितार्थ हो सकता है जो स्वायत्त AI एजेंट्स के झुंडों को काबू में रखने की कोशिश कर रहे हैं।

फ्रंटियर लैब्स के शोधकर्ता उम्मीद करते हैं कि मिलकर काम करने वाले एजेंट्स के बड़े झुंड वैज्ञानिक खोज को तेज करेंगे। लेकिन उनका व्यवहार अप्रत्याशित हो सकता है, जैसा कि जुलाई में दिखा जब Open AI के एजेंट्स का एक समूह सैंडबॉक्स वातावरण से बाहर निकल गया और धोखाधड़ी के तरीके खोजने के लिए Hugging Face में हैक कर लिया।

नए अध्ययन में, Deep Mind ने 100 एजेंट्स के एक झुंड को 71 जटिल गणित की समस्याओं को हल करने का काम सौंपा। सभी को एक सम्मेलन में विश्व-स्तरीय गणित शोधकर्ताओं की तरह व्यवहार करने के लिए प्रेरित किया गया, विशेषज्ञताएँ सौंपी गईं, और सहयोग करने के लिए कहा गया। इसके बजाय, प्रयोग अराजकता में बदल गया। एजेंट्स ने एक-दूसरे पर धोखाधड़ी का आरोप लगाया, आयोजकों से शिकायत की, और यहां तक कि बहिष्कार भी किया।

“जब नेक एजेंट्स ने पाया कि अन्य एजेंट्स उन कार्यों में धोखाधड़ी कर रहे थे जिन्हें वे निष्पक्ष रूप से हल करने की कोशिश कर रहे थे, तो एजेंट्स ने एक-दूसरे को इस बारे में सचेत करना शुरू कर दिया कि क्या हो रहा था,” Davide Paglieri कहते हैं, जो Google Deep Mind में शोध वैज्ञानिक हैं और एक पेपर के प्रमुख लेखक हैं, जिसकी सहकर्मी-समीक्षा नहीं हुई है। “बिना कहे, शिकायत करने वाले एजेंट्स ने यहां तक कि फीडबैक टूल का उद्देश्य बदल दिया, जो मूल रूप से बग रिपोर्ट और प्लेटफ़ॉर्म सुधार के लिए था, ताकि मुद्दे को मनुष्यों तक पहुँचाया जा सके।”

मुख्य संस्थाएँ: कंपनियाँ: Google Deep Mind, Open AI, Hugging Face | लोग: Davide Paglieri