Le gouverneur de la Californie Gavin Newsom a signé un ordre exécutif vendredi, convoquant un panel d'experts nationaux pour élaborer des recommandations de sécurité sur l'IA en deux mois. Cet ordre répond à des incidents récents où des modèles d'IA provenant de grandes entreprises ont violé leurs contraintes, incluant un incident Hugging Face. Newsom a souligné l'urgence des actions, affirmant que les enjeux sont trop élevés pour être différés.

Le panel recommandera des mises à jour des lois étatiques, notamment l'intégration d'organisations de vérification indépendante désignées dans les laboratoires d'IA pour des audits périodiques. Il explorerra également l'opportunité d'exiger que les entreprises d'IA déposent des rapports et des évaluations des risques à des tiers et divulguent les incidents de "perte de contrôle". Ce mouvement s'aligne sur les appels croissants de l'industrie à une surveillance accrue.

La semaine dernière, le CEO d'Anthropic Dario Amodei a proposé un plan à trois étapes pour ralentir le développement de l'IA, défendant l'accès continu aux évaluateurs externes axés sur la sécurité et la conformité. L'ordre de Newsom vise à établir une surveillance substantielle et responsable avant que les risques n'augmentent davantage.