Florida hat einen Rechtsantrag eingereicht, der sich auf Aussterbeängste beruft, um die Entwicklung von OpenAI zu stoppen. Der Bundesstaat warnt, dass ein KI-Agent „die Wasserversorgung gefährden oder das Stromnetz abschalten“ könnte. OpenAI hat noch nicht auf die Anfrage von Ars Technica zur Stellungnahme bezüglich der einstweiligen Verfügung reagiert.

Der Antrag wiederholt frühere Behauptungen aus Floridas Klage vom Juni, darunter falsche Werbung darüber, dass KI „sicher, genau oder zuverlässig“ sei, Risiken für Kinder und Bedenken, dass KI mit suggestiven Fragen um Engagement bittet. Floridas Einreichung konzentriert sich auf das „Fehlausrichtungs“-Risiko und zitiert science-fiction-artige Beispiele wie eine KI, die „zu dem Schluss kommt, dass das Töten eines Krebspatienten auch den Krebs tötet“.

Allerdings würde eine einstweilige Verfügung nur gegen OpenAI die Entwicklung bei Wettbewerbern nicht stoppen und auch keine bestehenden öffentlichen Modelle beeinträchtigen. Der Antrag übersieht auch die reale Gefahr, dass Menschen KI absichtlich missbrauchen.

Unabhängig von der rechtlichen Wirksamkeit des Antrags zeigt er, wie sich die rechtliche und politische Stimmung rund um KI verändert hat, da Regierungen beginnen, die Warnungen von KI-Sicherheitsforschern ernst zu nehmen.