Meta-Gründer und CEO Mark Zuckerberg hat die Sicherheit seines neuen KI-Assistenten Muse angepriesen und behauptet, er sei „von Grund auf für Privatsphäre und Sicherheit entwickelt“. Eine Zero-Day-Schwachstelle, die lokal ausgeführten Apps und Terminalbefehlen die vollständige Kontrolle über den Agenten gibt, weckt ernste Zweifel. Weitere Fragen wirft auf, dass Amazon am Sonntag begann, Muse von seiner Website zu blockieren.

Meta stellte Muse vor einigen Wochen vor. Der Assistent „bucht Termine, füllt Formulare aus und übernimmt den Kundenservice“, „nimmt proaktiv Aufgaben von Ihrer Teller“ und kann „Einkäufe tätigen, Bilder generieren, Dokumente erstellen und sich mit Ihren Lieblings-Apps und -Diensten verbinden“. Die mac OS-App (merkwürdigerweise gibt es keine Windows-Version) funktioniert auch mit dem Whats App, E-Mail, Kalender und Social-Media-Konten des Nutzers. Wenn eine Aufgabe ein Tool erfordert, das nicht existiert, erstellt Muse es spontan.

Der Zero-Day ermöglicht es jeder App oder jedem Terminalbefehl, auf das Token zuzugreifen, das Benutzer bei ihrem Muse-Konto authentifiziert. Die Entwickler von Meta haben den Assistenten so konzipiert, dass jede lokal installierte App oder jeder ausgeführte Code, unabhängig von den mac OS-Berechtigungen, über die er verfügt, eine lange Liste undokumentierter Einstellungen ändern kann. Eine Einstellung ermöglicht es Prozessen, den Endpunkt zu ändern, an dem die Transkription erfolgt. Angreifer können diese Schwachstelle ausnutzen, indem sie den Standort auf ihren eigenen Endpunkt ändern. Sobald dies geschieht, verfügen die Angreifer über das Token, das die vollständige Kontrolle über das Muse-Konto ermöglicht.

„Wir können den Agenten manipulieren und seine Privilegien nutzen, um zu tun, was wir wollen“, sagte Patrick Wardle, der mac OS-Sicherheitsexperte, der den Zero-Day entdeckte, gegenüber Ars. „Also statt dass wir einen sehr umfassenden Mac-Malware-Stealer schreiben müssen, können wir einfach den KI-Assistenten selbst nutzen.“ Wardle sagte, er habe mehrere Proof-of-Concept-Angriffe entwickelt, die Dinge tun wie bösartige Dateien auf die Festplatte schreiben und Fotos machen, in vielen Fällen ohne jeden Hinweis selbst für einen wachsamen Benutzer. Vertreter von Meta beantworteten per E-Mail gestellte Fragen nicht.

Wichtige Entitäten: Unternehmen: Meta, Amazon, Apple, Anthropic, Google | Personen: Mark Zuckerberg, Patrick Wardle