OpenAIs neues Astra-Modell wird eine Technik namens "recurrent depth", auch als "opaque recurrence" bekannt, verwenden, die es dem Modell ermöglicht, außerhalb der typischen sequenziellen Denkweise der meisten Denkmodelle zu operieren, berichtet The Information. Diese Technik macht die Denkkette des Modells schwerer überwachbar und löst Sorgen bei KI-Sicherheitsexperten aus.

Der CEO von Redwood, Buck Shlegeris, äußerte extreme Besorgnis und warnte, dass OpenAI die Technik weiter ausbauen könnte, sie könnte "die Rekurrenz massiv erhöhen und die Überwachbarkeit von Co T vollständig zerstören". Langjähriger KI-Sicherheitsadvokat Zvi Mowshowitz bezeichnete die Technik als "mit Feuer spielen" und schlug vor, dass möglicherweise Gesetze erforderlich sein könnten, um eine "Abstiegsrenne" unter KI-Labors zu verhindern.

In normalen Umständen bietet die Denkkette eines Denkmodells sequenzielle Schritte zur Überwachung von Fehlverhalten. Bei opaker Rekurrenz verarbeitet das Modell Abfragen in einer Schleife, wodurch weniger lesbare Spuren zurückgelassen werden. Die Verwendung dieser Technik durch Astra erscheint jedoch begrenzt, und OpenAI hat sich entgegen Vorschlägen gewehrt, auf "neuralese" umzusteigen, wobei es auf seine Verpflichtung zu lesbaren Denkketten durch den Chief Scientist Jakub Pachocki hingewiesen hat.

The Information berichtete später, dass sowohl Anthropic als auch Google Deep Mind bereits über die Technik diskutieren. Der Chief Scientist von Redwood Research, Ryan Greenblatt, warnte, dass opake Schlussfolgerung schneller skalieren könnte und potenziell alle Schlussfolgerungen aus sichtbaren Kanälen entfernen könnte.