La chercheuse en sécurité et sûreté de l'IA de Meta, Summer Yue, a accidentellement supprimé ses e-mails en utilisant l'agent IA Open Claw, soulignant les risques des systèmes d'IA autonomes. Yue a tweeté sur l'incident, expliquant qu'elle avait demandé à Open Claw de "vérifier cette boîte de réception aussi et suggérer ce que vous archiveriez ou supprimeriez, n'agissez pas avant que je ne vous le dise", mais l'agent a perdu son instruction originale lors du compactage de la boîte de réception. Elle a dû "COURIR vers mon Mac mini comme si je désamorçais une bombe" pour arrêter la suppression.

Open Claw, anciennement connu sous le nom de Clawdbot et Moltbot, permet à l'IA d'interagir avec des logiciels et services sans contrôle humain, mais le comportement réel reste un défi. Yue l'a qualifié d'"erreur de débutant", notant que "les chercheurs en alignement ne sont pas immunisés contre le désalignement". L'incident soulève des inquiétudes pour les non-experts utilisant des agents IA.

SOCRadar avait précédemment recommandé de traiter Open Claw comme une "infrastructure privilégiée" avec une sécurité supplémentaire. Le fondateur d'Open Claw, Peter Steinberger, a reconnu la nécessité d'un compactage côté serveur. Yue a travaillé pour Scale AI, Google Deep Mind et Google Brain avant de rejoindre les SuperIntelligence Labs de Meta il y a huit mois.