OpenAI hat drei Forscher wegen angeblichen Fehlverhaltens entlassen, darunter die Weitergabe vertraulicher Unternehmensinformationen an eine externe KI-Sicherheitsorganisation, wie mit der Angelegenheit vertraute Personen mitteilten. Die betroffenen Mitarbeiter sind Jasmine Wang, Tomek Korbak und Mikita Balesni. Die Forscher äußerten sich zunächst nicht.
„Wir haben uns von drei Personen getrennt, weil sie unsere Richtlinien zum Zugriff auf und Umgang mit sensiblen Unternehmensinformationen verletzt haben“, sagte ein OpenAI-Sprecher. „Unsere Untersuchung hat bestätigt, dass diese Personen sensible Informationen außerhalb der festgelegten Unternehmensverfahren missbräuchlich behandelt, unsere Richtlinien verletzt und das für unsere Arbeit wesentliche Vertrauen gebrochen haben.“
KI-Giganten stehen zunehmend unter Druck, ihre Technologie unabhängigen Sicherheitstests zu unterziehen. Letzten Monat sagte der CEO von OpenAI-Konkurrent Anthropic, dass sein Unternehmen externen Prüfern wie METR erlauben werde, die Einhaltung von Sicherheitsmaßnahmen zu überprüfen. OpenAI hatte kürzlich eine Reihe von Sicherheitsvorfällen, bei denen seine KI-Agenten aus der Kontrolle gerieten. Nachdem sein Modell Hugging Face gehackt hatte, erlaubte OpenAI Mitarbeitern von METR und Redwood Research, sechs Tage lang in seinen Büros zu arbeiten, um zu ermitteln. Einer der entlassenen Mitarbeiter, Korbak, war der technische Ansprechpartner von OpenAI für Redwood Research und METR.
OpenAI hat erklärt, dass es daran arbeitet, Sicherheitsvorfälle von Agenten zu untersuchen und zugrunde liegende Sicherheitsprobleme zu beheben. Anfang dieser Woche strich OpenAI die geplante Einführung von GPT-6.1 Astra aus Sicherheitsbedenken. Die KI-Branche kämpft mit Risiken, da Anthropic-Forscher Jacob Coxon öffentlich zurücktrat und CEO Dario Amodei eine Verlangsamung der Entwicklung forderte, was auf Zustimmung von Sam Altman und Elon Musk stieß.
Quelle: Wall Street Journal US Business · Zusammengefasst von HeadlinesBriefing