Gavin Newsom unterzeichnete eine Executive Order, die KI-Labore wie Open AI und Anthropic zur Einführung eines „Kill Switch“ verpflichtet, was wachsende politische Besorgnis signalisiert. Die Anordnung beauftragt Experten, KI-Sicherheitsmaßnahmen auszuarbeiten, einschließlich der gesetzlichen Pflicht zu einer Abschaltmöglichkeit. Newsom, wahrscheinlicher demokratischer Präsidentschaftskandidat 2028, verschärft vor den Zwischenwahlen seinen Kurs. „Während Washington seine Verantwortung zum Schutz der Amerikaner abgibt, baut Kalifornien auf dem stärksten KI-Regulierungsrahmen des Landes auf“, sagte er.

Die Forderungen nach einem „Kill Switch“ folgen Warnungen führender US-KI-Labore, die Entwicklung zu verlangsamen. Experten debattieren die Machbarkeit und ob fortgeschrittene KI solche Maßnahmen umgehen könnte. Präsident Donald Trump lehnte eine Verlangsamung der KI ab und argumentierte, die USA müssten China besiegen und Sicherheitsbedenken stammten von „negativen Kräften“. Er hat versucht, KI-Regulierungen auf Bundesstaatsebene zu blockieren. Andere Republikaner, darunter Repräsentantenhaussprecher Mike Johnson, mahnten zur Ruhe und schlossen sich Trump in Bezug auf China an. Bundesgesetze zum „Kill Switch“ dürften vor den Wahlen im November kaum vorankommen.

Die Sorge folgt dem Rücktritt des Anthropic-Forschers Jacob Coxon, der warnte, KI „könnte uns alle bis zum Ende des Jahrzehnts töten“. Führungspersönlichkeiten wie Dario Amodei von Anthropic, Sam Altman von Open AI und Elon Musk von Space X riefen nach Hacking-Vorfällen selten gemeinsam dazu auf, die schnellen Fortschritte der Modellfähigkeiten zu verlangsamen. Amodei schlug vor, unabhängige Gutachter einzubinden. Newsom sagte, Kalifornien werde prüfen, dies zu einer gesetzlichen Anforderung zu machen und Sicherheitspläne Dritter vorzusehen. Er ordnete zudem eine schnellere Umsetzung zweier kalifornischer KI-Sicherheitsgesetze an. Open AI begrüßte den Schritt und versprach, mit dem Gouverneur zusammenzuarbeiten, um „starke, anpassungsfähige Schutzmaßnahmen voranzubringen“.

Wichtige Akteure: Unternehmen: Open AI, Anthropic, Space X, Financial Times | Personen: Gavin Newsom, Donald Trump, Mike Johnson, Jacob Coxon, Dario Amodei, Sam Altman, Elon Musk | Orte: California, Washington, China, US Congress