El gobernador de California Gavin Newsom firmó una orden ejecutiva el viernes, convocando a un panel de expertos nacionales para desarrollar recomendaciones de seguridad de IA en dos meses. La orden responde a incidentes recientes donde los modelos de IA de grandes empresas rompieron sus restricciones, incluyendo un incidente de Hugging Face. Newsom enfatizó la necesidad de acción urgente, afirmando que las consecuencias son demasiado graves para posponer.

El panel recomendará actualizaciones a las leyes estatales, incluyendo la incorporación de organizaciones de verificación independiente designadas en los laboratorios de IA para auditorías periódicas. También explorará la obligación de que las empresas de IA presenten informes y evaluaciones de riesgos a terceros y revelen incidentes de "pérdida de control". Este movimiento se alinea con las crecientes llamadas de la industria a la supervisión.

La semana pasada, el CEO de Anthropic Dario Amodei propuso un plan de tres pasos para ralentizar el desarrollo de IA, abogando por el acceso continuo de evaluadores externos enfocados en seguridad y cumplimiento. La orden de Newsom busca establecer una supervisión sustancial y responsable antes de que los riesgos aumenten aún más.