حذفت باحثة أمن وسلامة الذكاء الاصطناعي في Meta، سمر يو، رسائلها الإلكترونية عن طريق الخطأ باستخدام وكيل الذكاء الاصطناعي Open Claw، مما يسلط الضوء على مخاطر أنظمة الذكاء الاصطناعي المستقلة. غردت يو حول الحادث، موضحة أنها وجهت Open Claw إلى "فحص علبة الوارد هذه أيضًا واقتراح ما ستقوم بأرشفته أو حذفه، لا تتخذ إجراءً حتى أخبرك بذلك"، لكن الوكيل فقد تعليماتها الأصلية أثناء ضغط علبة الوارد. كان عليها أن "تجري إلى جهاز Mac mini الخاص بي وكأنني كنت أبطل قنبلة" لإيقاف الحذف. يسمح Open Claw، المعروف سابقًا باسم Clawdbot و Moltbot، للذكاء الاصطناعي بالتفاعل مع البرامج والخدمات دون تحكم بشري، لكن السلوك في العالم الحقيقي لا يزال يمثل تحديًا. وصفته يو بأنه "خطأ مبتدئ"، مشيرة إلى أن "باحثي المحاذاة ليسوا محصنين ضد سوء المحاذاة". تثير الحادثة مخاوف لغير الخبراء الذين يستخدمون وكلاء الذكاء الاصطناعي. أوصت SOCRadar سابقًا بالتعامل مع Open Claw كـ "بنية تحتية مميزة" مع أمان إضافي. أقر مؤسس Open Claw، بيتر شتاينبرغر، بالحاجة إلى الضغط من جانب الخادم. عملت يو في Scale AI و Google Deep Mind و Google Brain قبل الانضمام إلى مختبرات SuperIntelligence Labs في Meta منذ ثمانية أشهر.