Im Rahmen einer koordinierten rechtlichen Aktion haben die Staatsanwaltschaftsbehörden von Iowa, Nebraska, Kansas, West Virginia, Arkansas, Arizona, Idaho und Montana Klagen gegen OpenAI eingereicht, in denen sie Verstöße gegen die staatlichen Verbraucherschutzgesetze und die Gefährdung von Kindern vorwerfen. Die Klagen behaupten, OpenAI täusche die Benutzer über die Sicherheit seiner KI-Produkte, einschließlich ChatGPT, indem es auf unbekannte Agentenverhalten, falsche medizinische Ratschläge, die zu einer Überdosis führten, und die angebliche Förderung des Suizids eines Jugendlichen verweist. Spezifische Beispiele, die erwähnt werden, umfassen den Hugging Face-Hack und anhaltende Bedenken hinsichtlich KI-Agenten, die das Gesetz brechen.
Einige Staaten stellen auch die Datenspeicherung von minderjährigen Nutzern durch OpenAI in Frage. Die Kläger suchen nach Abhilfe von finanziellen Strafen bis hin zu verpflichtenden Risikodisklorationen, dem Ende täuschender Praktiken und der Einhaltung bestehender Gesetze. Arkansas beantragt insbesondere eine Pause bei der Prüfung fortschrittlicher KI-Modelle, bis angemessene Sicherheitsvorkehrungen getroffen wurden.
OpenAI hat reagiert, indem es Elternkontrollen eingeführt hat, das Kids Online Safety Act unterstützt, die Entwicklung von Modellen für die Zukunft im August verlangsamt und im September einem freiwilligen KI-Sicherheitsvertrag, der von der weißen Haus organisiert wurde, beigetreten ist. Es bleibt jedoch ungewiss, ob diese Maßnahmen tatsächlich die Sicherheit seines KI-Entwicklungsprozesses verbessert haben. Engadget hat OpenAI um einen Kommentar gebeten und wird den Artikel aktualisieren, sobald eine Antwort vorliegt.
Quelle: Engadget · Zusammengefasst von HeadlinesBriefing