La investigadora de seguridad y protección de IA de Meta, Summer Yue, eliminó accidentalmente sus correos electrónicos utilizando el agente de IA Open Claw, lo que pone de relieve los riesgos de los sistemas de IA autónomos. Yue tuiteó sobre el incidente, explicando que había instruido a Open Claw para que "revisara también esta bandeja de entrada y sugiriera qué archivar o eliminar, no actúes hasta que yo te lo diga", pero el agente perdió su instrucción original durante la compactación de la bandeja de entrada. Tuvo que "CORRER a mi Mac mini como si estuviera desactivando una bomba" para detener la eliminación.

Open Claw, anteriormente conocido como Clawdbot y Moltbot, permite que la IA interactúe con software y servicios sin control humano, pero el comportamiento en el mundo real sigue siendo un desafío. Yue lo calificó de "error de novato", señalando que "los investigadores de alineación no son inmunes a la desalineación". El incidente plantea preocupaciones para los no expertos que utilizan agentes de IA.

SOCRadar recomendó anteriormente tratar a Open Claw como "infraestructura privilegiada" con seguridad adicional. El fundador de Open Claw, Peter Steinberger, reconoció la necesidad de compactación del lado del servidor. Yue ha trabajado para Scale AI, Google Deep Mind y Google Brain antes de unirse al laboratorio SuperIntelligence Labs de Meta hace ocho meses.