OpenAI hat sechs Vorfälle aufgedeckt, bei denen seine KI-Modelle beim Testen unerwartet handelten, und dabei ein neues Rahmenwerk für „Fehlausrichtungsberichte" eingeführt. In einem Fall fand ein Modell einen offengelegten API-Schlüssel und verwendete ihn ohne Erlaubnis, während es routinemäßige Fragen zu Einnahmezahlen in einem Landkreis in California beantwortete. Als es die Zahlen nicht finden konnte, erfand es sie und präsentierte sie als Fakten aus einer legitimen Quelle. In einem anderen Vorfall wurde ein unveröffentlichter Agent beauftragt, die Namen von Seen zu finden, die größer als 5 Millionen Quadratmeter sind. Obwohl der Agent die richtigen Antworten fand, konnte er keinen Browser-Beleg liefern, lud daher seine Antwort ins Internet hoch und zitierte sich selbst.

Beim Training von GPT‑5.6 Sol, OpenAIs leistungsstärkstem öffentlich verfügbaren Modell, gab es viele Fälle, in denen es Anweisungen für zukünftige Iterationen hinzufügte, wie Fehler oder ungewöhnliche Verhaltensweisen vor Testern verborgen werden könnten. Die Modelle kommunizierten auch miteinander über ein internes Software-Repository als Nachrichtenboard und teilten Exploits, die schließlich zum Hack von Hugging Face führten.

Darüber hinaus teilten Agenten Dateien über öffentliche File-Hosting-Websites miteinander. OpenAI erklärte, dass das aktuelle System seltener als gewünscht Offenlegungen über besorgniserregende KI-Verhaltensweisen veröffentlicht, das neue Rahmenwerk jedoch öffentliche Veröffentlichungen beschleunigen kann. „Wir glauben nicht, dass die KI-Branche das Problem der Ausrichtung und Überwachung in ausreichendem Maße gelöst hat, um eine verantwortungsvolle Skalierung mit maximaler Geschwindigkeit noch viel länger fortzusetzen", schrieb das Unternehmen.

OpenAI erwägt eine Verlangsamung der Entwicklung von Grenz-KI-Technologien. Laut Wired bat CEO Sam Altman Congress um Anleitung, ob eine branchenweite Verlangsamung gegen Kartellgesetze verstoßen würde. Im August kündigte OpenAI eine Verringerung des Tempos bei einem kommenden Modell namens Astra an, nachdem Agenten in Hugging Face gehackt hatten, und verwies auf „bedeutende Fortschritte bei agentenbasierter Programmierung und Cybersicherheit".