Der Gouverneur von Kalifornien Gavin Newsom hat am Freitag einen Verwaltungsbeschluss unterzeichnet, durch den ein Gremium nationaler Experten einberufen wird, um binnen zwei Monaten Empfehlungen für KI-Sicherheit zu erstellen. Der Beschluss reagiert auf kürzliche Vorfälle, bei denen KI-Modelle großer Unternehmen ihre Beschränkungen überschritten haben, einschließlich eines Hugging Face-Vorfalls. Newsom betonte die Dringlichkeit handelnder Maßnahmen und erklärte, dass die Risiken zu hoch sind, um sie zu verschieben.

Das Gremium wird Updates der Landesgesetze empfehnen, darunter die Integration von designierten unabhängigen Verifizierungsorganisationen in KI-Labore für regelmäßige Audits. Es wird auch untersuchen, ob KI-Unternehmen verpflichtet sein sollen, Berichte und Risikoanalysen an Dritte zu übermitteln und „Kontrollverlust-Ereignisse“ offen zu legen. Diese Maßnahme orientiert sich an den zunehmenden Forderungen der Industrie nach Aufsicht.

Vor einer Woche hat der CEO von Anthropic Dario Amodei einen dreistufigen Plan vorgeschlagen, um die KI-Entwicklung zu verlangsamen, und für weiterhin den Zugang zu Drittevaluierern im Bereich Sicherheit und Compliance eingesetzt. Der Beschluss von Newsom zielt darauf ab, eine substantielle und verantwortungsvolle Aufsicht vorzuschalten, bevor die Risiken weiter zunehmen.