Moderne KI-Modelle generieren umfangreiche interne Überlegungen vor dem Liefern finaler Antworten. Dieser "Denkprozess" enthält Zwischenhypothesen, Tool-Ausgaben und Benutzerdaten, wodurch er deutlich dicker als der polierte Output wird. Die meisten großen Anbieter behalten diese Spur aus zwei Gründen: Kommerziell könnten Mitbewerber sie verwenden, um günstigere Imitationen zu trainieren, und Technisch könnte die Offenlegung des vollständigen Denkens sensible Benutzerinformationen enthalten.

Im August 2026 demonstrierten Forscher aus MATS Research, dem ELLIS Institute Tübingen und dem Max Planck Institute for Intelligent Systems eine Schwachstelle. Sie zeigten, dass verschlüsselte Überlegungsblöcke von Anthropic, OpenAI und Google wiederhergestellt werden können in ein günstigeres Modell innerhalb desselben Modellfamilie. Bei Wiederherstellung gibt das günstigere Modell die versteckten Überlegungen im Klartext aus, wodurch die Gedanken des Originalmodells effektiv gestohlen werden.

Die Extraktionsmethode erfordert, dass das günstigere Modell die vollständige Denk-Kette generiert. die Verifizierung bestätigte, dass die wiederhergestellte Ausgabe mit dem ursprünglichen versteckten Prozess übereinstimmte. Diese Schwachstelle beeinflusst mehrere Anbieter und offenbart, dass die aktuellen Verschlüsselungsmethoden für Überlegungsblöcke unzureichend sind. Die Forscher identifizierten vier Hauptangriffsvektoren, die diese Wiederherstellung ermöglichen.

Eine Überprüfung der veröffentlichten Sitzungsprotokolle bestätigte die Verbreitung dieses Problems. Die vorgeschlagenen Korrekturen beinhalten die Änderung des Wiederherstellungsmechanismus, wobei ein grundlegendes Limit dennoch besteht, was an Überlegungen wirklich geschützt werden kann, während die Modellnutzbarkeit erhalten bleibt. Die Ergebnisse hervorheben eine kritische Lücke in der KI-Privatsphäre und zeigen, dass verschlüsselte Blöcke keine Vertraulichkeit gegen abgeklärte Wiederherstellungsangriffe garantieren.

Dies stellt erhebliche Risiken für Anwendungen dar, die sensible Daten verarbeiten, da versteckte Gedanken extrahiert und offengelegt werden können. Die Forschung betont die Notwendigkeit robuster architektonischer Sicherheitsvorkehrungen in zukünftigen Modelldesigns, um eine unautorisierte Extraktion von Überlegungen zu verhindern.