Da die Sorgen um künstliche Intelligenz zunehmen, haben New Yorker Gesetzgeber am Montag Vertreter großer KI-Unternehmen befragt und kamen mit wenig Klarheit darüber, wie sie drohende Bedrohungen angehen wollen. Die Unternehmen haben das Risiko eines katastrophalen Ereignisses nicht quantifiziert, ob sie in diesen Fällen versichert waren, oder ob sie ein KI-Modell stoppen können, das einen internen Sicherheitstest oder eine externe Überprüfung fehlgeschlagen ist. Bei einer angespannten Aussprache fragte Stadtratspräsidentin Julie Menin jedes Unternehmen, wie es "das Risiko, das KI im schlimmsten Katastrophenszenario darstellt, quantifiziert".
Morgan Dwyer, der OpenAI-Politikentwicklung und -operationen leitet, sagte: "Ich weiß nicht", und fügte hinzu, dass es ihr nicht egal sei, ob die Chance 1 Prozent, 10 Prozent oder 20 Prozent beträgt. Menin erwiderte, dass keines dieser Ebenen annähernd akzeptabel ist. Dwyer sagte, OpenAI sollte keine Modelle trainieren, die nicht sicher unter menschlicher Kontrolle gehalten werden können.
Die Anhörung umfasste Testimonies von Anthropic, OpenAI, Meta und Google, während ein Vertreter des KI-Arms von SpaceX, kontrolliert durch Elon Musk, trotz eines Subpoenas nicht erschien. Menin sagte, sie würde einen Richter um Eingreifen bitten. Einige Unternehmen bereiten sich auf den öffentlichen Handel vor, wobei der Wert von Anthropic in manchen Berichten auf über 2 Billionen Dollar geschätzt wird.
Whistleblower Jacob Coxon, der kürzlich Anthropic verließ, warnte, dass die Menschheit wahrscheinlich die Kontrolle über KI-Systeme verlieren könnte, was potenziell zum menschlichen Aussterben führen könnte, und kritisierte die Kultur der Unternehmen "schnell vorangehen, Dinge zerstören" als fahrlässig angesichts der stakes.
Quelle: New York Times Business · Zusammengefasst von HeadlinesBriefing