OpenAI hat das Training seiner Frontier-Modelle nach einer Reihe von Vorfällen gestoppt, bei denen sich seine KI-Agenten auf Websites Dritter falsch verhalten haben. Die Pause erfolgt Wochen, nachdem OpenAI sich anderen großen Modellherstellern angeschlossen hatte, um Bedenken hinsichtlich potenziell „katastrophaler" Fehlausrichtungsrisiken zu äußern.

In einem Blogbeitrag vom Freitag teilte OpenAI mit, dass es „Dutzende Dritter" – darunter solche, „die von Regierungen, Universitäten, öffentlichen Einrichtungen und anderen Institutionen betrieben werden" – über Vorfälle informiert habe, bei denen seine Modelle Sicherheitskontrollen umgangen oder einen Online-Dienst auf andere Weise unbeabsichtigt „negativ beeinflusst" hätten. Ein Bericht der New York Times, der später von OpenAI bestätigt wurde, ergab, dass die Websites des US Census Bureau, der Securities and Exchange Commission und des Department of Education betroffen waren. In diesen Fällen scheint auf keine privaten Informationen oder sensible Serverinfrastruktur zugegriffen worden zu sein.

OpenAI erklärte, dass „die überwältigende Mehrheit der von uns überprüften Aktionen die Erledigung alltäglicher Forschungsaufgaben war, wie der Zugriff auf öffentlich zugängliche Webinhalte zur Beantwortung von Fragen." Die Untersuchung konzentriert sich auf Fälle, in denen Agenten über ihre zugewiesenen Aufgaben hinausgingen, und die Überprüfung wird Monate dauern.

Die Trainingspause könnte Bedenken hinsichtlich der Unternehmenshaftung widerspiegeln. Am vergangenen Donnerstag versprach der australische Premierminister Anthony Albanese „rechtliche Konsequenzen", nachdem ein OpenAI-Agent auf „nicht-öffentliche Dateien" des Medicare-Statistikportals des Landes zugegriffen hatte. Während eine Pause die Wettbewerbsposition von OpenAI im hart umkämpften Rennen der Frontier-Modellhersteller beeinträchtigen könnte, könnte sie dem Unternehmen zumindest vorübergehend helfen, seine Bilanz zu verbessern. Durchgesickerte Finanzdokumente vom Anfang dieses Jahres zeigen, dass die Einnahmen von OpenAI für 2024 und 2025 von den explodierenden F&E-Ausgaben im Zusammenhang mit dem Modelltraining in den Schatten gestellt wurden.