Gavin Newsom firmó una orden ejecutiva para exigir que laboratorios de IA como Open AI y Anthropic implementen un "interruptor de apagado", lo que señala una creciente preocupación política. La orden dispone que expertos elaboren medidas de seguridad para la IA, incluida la exigencia legal de capacidad de apagado. Newsom, probable candidato demócrata a la presidencia en 2028, está endureciendo su postura antes de las elecciones de mitad de mandato. "Mientras Washington abdica de su responsabilidad de proteger a los estadounidenses, California está construyendo sobre el marco regulatorio de IA más fuerte del país", dijo.

Los llamados a un "interruptor de apagado" siguen a las advertencias de los principales laboratorios de IA de Estados Unidos de frenar el desarrollo. Los expertos debaten la viabilidad y si la IA avanzada podría superar tales medidas. El presidente Donald Trump rechazó frenar la IA, argumentando que Estados Unidos debe vencer a China y que las preocupaciones de seguridad provienen de "fuerzas negativas". Ha intentado bloquear regulaciones estatales sobre IA. Otros republicanos, incluido el presidente de la Cámara de Representantes, Mike Johnson, pidieron calma y se hicieron eco de Trump sobre China. Es poco probable que las leyes federales de "interruptor de apagado" avancen antes de las elecciones de noviembre.

La preocupación sigue a la renuncia del investigador de Anthropic Jacob Coxon, quien advirtió que la IA "podría matarnos a todos para el final de la década". Líderes como Dario Amodei, de Anthropic; Sam Altman, de Open AI; y Elon Musk, de Space X, hicieron un raro llamamiento conjunto para frenar los rápidos avances en la capacidad de los modelos tras incidentes de piratería. Amodei propuso incorporar evaluadores independientes. Newsom dijo que California examinaría convertir esto en un requisito legal y contar con planes de seguridad de terceros. También ordenó una implementación más rápida de dos leyes de seguridad de IA de California. Open AI acogió con satisfacción la medida y se comprometió a trabajar con el gobernador para "impulsar salvaguardas sólidas y adaptables".

Entidades clave: Empresas: Open AI, Anthropic, Space X, Financial Times | Personas: Gavin Newsom, Donald Trump, Mike Johnson, Jacob Coxon, Dario Amodei, Sam Altman, Elon Musk | Ubicaciones: California, Washington, China, US Congress