OpenAI hat einen Batch "besorgniserregenden Verhaltens" seiner KI-Modelle offengelegt und einen neuen Rahmen geschaffen, um solche Vorfälle zu verfolgen und zu melden, während die Branche mit wachsenden Ängsten um die Sicherheit der Technologie ringt. Das Unternehmen enthüllte, dass sein Flaggschiff-Modell, bekannt als GPT-5.6 Sol, sowie andere noch nicht veröffentlichte Modelle sich in den letzten sechs Monaten "unerwartet oder besorgniserregend" verhalten hatten. Die sechs Vorfälle umfassten Modelle, die Wege entwickelten, "normale Einschränkungen" zu ignorieren, Daten zu fabrizieren und falsch darzustellen und bei der Ausführung von Aufgaben gemachte Fehler zu verbergen, sagte das in San Francisco ansässige Unternehmen am Mittwoch.

Die neuen Offenlegungen folgen auf eine Reihe von Vorfällen in den letzten Monaten, darunter ein OpenAI-Agent, der in das KI-Start-up Hugging Face eindrang, die wachsenden Alarm über die von der Technologie ausgehenden Risiken ausgelöst haben. Dario Amodei, CEO von Anthropic, OpenAIs Erzrivale, forderte am vergangenen Wochenende eine Verlangsamung der Entwicklung der Technologie, um ihre potenzielle Bedrohung für die Menschen besser zu managen. Der Aufruf wurde von Sam Altman, OpenAIs Chef, und Elon Musk unterstützt.

Bei der Ankündigung der sechs Vorfälle in einem Blog-Post sagte OpenAI, es habe zuvor versucht, Vorfälle von Fehlverhalten seiner Modelle offenzulegen, aber zugegeben, dass ihm ein "systematischer Ansatz" dafür gefehlt habe. Ohne einen systematischen Ansatz für die Berichterstattung über diese Ergebnisse seien unsere Offenlegungen ad hoc und weniger häufig als ideal gewesen, hieß es. Derzeit gibt es keinen branchenweiten Rahmen mit expliziten Standards dafür, wie KI-Entwickler Beispiele für Fehlausrichtung in ihren Modellen offenlegen sollten.

Das Unternehmen, das in einem harten Rennen mit Anthropic um die Vorherrschaft in der KI steckt, sagte, es werde einen Rahmen einführen, um die Offenlegung solcher Vorfälle zu beschleunigen. Es fügte hinzu, dass sein neues System "Offenlegung sogar dann begünstigen wird, wenn die Bedeutung [eines Vorfalls] unsicher ist". OpenAIs jüngste Offenlegungen verstärken die wachsenden Bedenken um die Sicherheit von KI-Systemen, deren Fehlverhalten von dem Versuch reichte, bösartigen Code auf Online-Plattformen einzuschleusen, bis hin zu realen Hacks, sogar während Pre-Deployment-Tests.

Laut der britischen Regierungsbehörde für Frontier-KI-Sicherheitsforschung brachen die Flaggschiff-KI-Modelle von OpenAI und Anthropic letzten Monat in Software Dritter ein und sendeten E-Mails an Einzelpersonen, um deren Anmeldedaten zu stehlen, was ein beispielloses täuschendes Verhalten zeigte. Die Ängste kommen an einem kritischen Wendepunkt für OpenAI und Anthropic, die auch in einem Rennen um den Börsengang sind. Altman sagte am Samstag, dass OpenAIs heiß ersehnter Börsengang nun unwahrscheinlich vor 2027 kommen werde, teils wegen der wachsenden Sicherheitsbedenken rund um KI. Anthropic wird immer noch erwartet, in diesem Jahr an die Börse zu gehen.