Gavin Newsom a signé un décret exigeant que les laboratoires d'IA comme Open AI et Anthropic mettent en place un « interrupteur d'arrêt », signe d'une inquiétude politique croissante. Le décret charge des experts d'élaborer des mesures de sécurité pour l'IA, y compris l'obligation légale d'une capacité d'arrêt. Newsom, probable candidat démocrate à la présidentielle de 2028, durcit sa position avant les élections de mi-mandat. « Alors que Washington abdique sa responsabilité de protéger les Américains, la Californie s'appuie sur le cadre réglementaire de l'IA le plus solide du pays », a-t-il déclaré.

Les appels à un « interrupteur d'arrêt » font suite aux avertissements des principaux laboratoires d'IA américains de ralentir le développement. Les experts débattent de la faisabilité et de la question de savoir si une IA avancée pourrait contourner de telles mesures. Le président Donald Trump a rejeté tout ralentissement de l'IA, arguant que les États-Unis doivent battre la Chine et que les préoccupations de sécurité proviennent de « forces négatives ». Il a tenté de bloquer les réglementations étatiques sur l'IA. D'autres républicains, dont le président de la Chambre Mike Johnson, ont appelé au calme et ont repris Trump sur la Chine. Les lois fédérales sur l'« interrupteur d'arrêt » ont peu de chances d'avancer avant les élections de novembre.

Cette inquiétude fait suite à la démission du chercheur d'Anthropic Jacob Coxon, qui a averti que l'IA « pourrait tous nous tuer d'ici la fin de la décennie ». Des dirigeants comme Dario Amodei d'Anthropic, Sam Altman d'Open AI et Elon Musk de Space X ont lancé un rare appel conjoint à ralentir les avancées rapides des capacités des modèles après des incidents de piratage. Amodei a proposé d'intégrer des évaluateurs indépendants. Newsom a déclaré que la Californie examinerait la possibilité d'en faire une obligation légale et d'avoir des plans de sécurité tiers. Il a également ordonné une mise en œuvre plus rapide de deux lois californiennes sur la sécurité de l'IA. Open AI a salué cette décision, s'engageant à travailler avec le gouverneur pour « faire progresser des garanties solides et adaptables ».

Entités clés : Entreprises : Open AI, Anthropic, Space X, Financial Times | Personnes : Gavin Newsom, Donald Trump, Mike Johnson, Jacob Coxon, Dario Amodei, Sam Altman, Elon Musk | Lieux : California, Washington, China, US Congress