Meta KI-Sicherheits- und Sicherheitsforscherin Summer Yue löschte versehentlich ihre E-Mails mithilfe des KI-Agenten Open Claw, was die Risiken autonomer KI-Systeme verdeutlicht. Yue twitterte über den Vorfall und erklärte, sie habe Open Claw angewiesen, "auch diesen Posteingang zu prüfen und vorzuschlagen, was du archivieren oder löschen würdest, handle nicht, bis ich es dir sage", aber der Agent verlor ihre ursprüngliche Anweisung während der Posteingangskompaktierung. Sie musste "ZU MEINEM MAC MINI RENNEN, ALS WÜRDE ICH EINE BOMBE ENTSCHÄRFEN", um das Löschen zu stoppen.

Open Claw, früher bekannt als Clawdbot und Moltbot, ermöglicht es KI, ohne menschliche Kontrolle mit Software und Diensten zu interagieren, aber das Verhalten in der realen Welt bleibt eine Herausforderung. Yue nannte es einen "Anfängerfehler" und merkte an, dass "Alignment-Forscher nicht immun gegen Fehlausrichtung sind". Der Vorfall wirft Bedenken für Nicht-Experten auf, die KI-Agenten nutzen.

SOCRadar hatte zuvor empfohlen, Open Claw als "privilegierte Infrastruktur" mit zusätzlicher Sicherheit zu behandeln. Open Claw-Gründer Peter Steinberger erkannte die Notwendigkeit serverseitiger Kompaktierung an. Yue arbeitete für Scale AI, Google Deep Mind und Google Brain, bevor sie vor acht Monaten zu Metas SuperIntelligence Labs wechselte.