Peneliti keamanan dan keamanan AI Meta, Summer Yue, secara tidak sengaja menghapus emailnya menggunakan agen AI Open Claw, menyoroti risiko sistem AI otonom. Yue menweet tentang insiden ini, menjelaskan bahwa dia telah memerintahkan Open Claw untuk 'memeriksa kotak masuk ini juga dan menyarankan apa yang akan Anda arsipkan atau hapus, jangan bertindak sampai saya menyuruh Anda', tetapi agen kehilangan instruksi aslinya selama kompakti kotak masuk. Dia harus 'BERLARI ke Mac mini saya seolah-olah saya sedang mendifusikan bom' untuk menghentikan penghapusan.

Open Claw, yang sebelumnya dikenal sebagai Clawdbot dan Moltbot, memungkinkan AI berinteraksi dengan perangkat lunak dan layanan tanpa kontrol manusia, tetapi perilaku dunia nyata tetap menantang. Yue menyebutnya 'kesalahan pemula', mencatat bahwa 'peneliti alignment tidak kebal terhadap misalignment'. Insiden ini menimbulkan kekhawatiran bagi non-ahli yang menggunakan agen AI.

SOCRadar sebelumnya merekomendasikan memperlakukan Open Claw sebagai 'infrastruktur istimewa' dengan keamanan tambahan. Pendiri Open Claw, Peter Steinberger, mengakui kebutuhan kompakti sisi server. Yue telah bekerja untuk Scale AI, Google Deep Mind, dan Google Brain sebelum bergabung dengan SuperIntelligence Labs Meta delapan bulan yang lalu.