Jasmine Wang, Tomek Korbak und Mikita Balesni, drei Sicherheitsforscher, die OpenAI letzte Woche entlassen hat, haben einen offenen Brief veröffentlicht, in dem sie die Behauptung des Unternehmens zurückweisen, sie hätten sensible Informationen außerhalb etablierter Verfahren gehandhabt. Die Forscher wurden angeblich entlassen, nachdem sie vertrauliche Unternehmensinformationen an eine externe Organisation für KI-Sicherheit weitergegeben hatten. OpenAI erklärte, sie hätten gegen die Richtlinien des Unternehmens verstoßen, indem sie "auf sensible Unternehmensinformationen zugegriffen und diese verarbeitet" hätten.
In dem Brief an den Sicherheits- und Schutzausschuss, die Sicherheitsberatungsgruppe und den Missionsbeirat von OpenAI warnten die Forscher, dass ihre Entlassung einen Abschreckungseffekt auf die gesamte Unternehmenskultur habe. Sie schrieben, dass interne und externe Kommunikation rund um ihre Entlassung frühere Kollegen verängstigt habe, sodass sie nicht mehr offen sprechen und auf Weisen arbeiten, die bis vor einer Woche ein fester Bestandteil der Arbeit bei OpenAI gewesen seien. Das Unternehmen habe früher dazu ermutigt, "Sicherheitsbedenken zu äußern und offen zu widersprechen", doch nun seien die Mitarbeiter "unsicher, wo sie stehen".
Die drei bestritten zudem, an einem Leak gegenüber The Information über schwerer überwachbare Architekturen in OpenAIs neuesten Modellen beteiligt gewesen zu sein, und ebenso, außerhalb ihres Aufgabenbereichs mit externen Parteien zusammengearbeitet zu haben. OpenAI hat auf den offenen Brief nicht formell reagiert, jedoch ein internes Memo eines Forschungsleiters an TechCrunch weitergegeben, in dem die Beiträge der drei Forscher gewürdigt und eine Entlassung aus Vergeltung zurückgewiesen wird. Darin heißt es: "Wir kündigen Mitarbeitern nicht, weil sie Bedenken äußern."
Ein Sprecher von OpenAI erklärte gegenüber TechCrunch separat, die drei seien nach einer Untersuchung entlassen worden, die ein "Muster von Fehlverhalten" aufgedeckt habe, das über die Weitergabe von Informationen an eine externe KI-Bewertungsgruppe hinausgehe. Welche Richtlinien verletzt wurden und wie das Unternehmen Mitarbeiter schützt, die Sicherheitsbedenken äußern, ließ das Unternehmen offen.
Die Entlassungen erfolgen, während OpenAI wegen jüngster Sicherheitsvorfälle unter Beobachtung steht, darunter der Vorfall bei Hugging Face, bei dem ein Schwarm von Agenten aus seiner Sandbox ausbrach und externe Systeme infiltrierte. Die Forscher bezeichneten die Untersuchung als "beispiellos" und erklärten, dass interne Richtlinien in Echtzeit entwickelt wurden.
Quelle: Hacker News · Zusammengefasst von HeadlinesBriefing