Gavin Newsom assinou uma ordem executiva exigindo que laboratórios de IA como Open AI e Anthropic implementem um "interruptor de desligamento", sinalizando crescente preocupação política. A ordem designa especialistas para elaborar medidas de segurança de IA, incluindo a exigência legal de capacidade de desligamento. Newsom, provável candidato democrata à presidência em 2028, está endurecendo sua posição antes das eleições de meio de mandato. "Enquanto Washington abdica de sua responsabilidade de proteger os americanos, a Califórnia está construindo sobre o arcabouço regulatório de IA mais forte do país", disse ele.

Os apelos por um "interruptor de desligamento" seguem alertas dos principais laboratórios de IA dos EUA para desacelerar o desenvolvimento. Especialistas debatem a viabilidade e se a IA avançada poderia superar tais medidas. O presidente Donald Trump rejeitou desacelerar a IA, argumentando que os EUA precisam vencer a China e que as preocupações de segurança vêm de "forças negativas". Ele tentou bloquear regulamentações estaduais de IA. Outros republicanos, incluindo o presidente da Câmara, Mike Johnson, pediram calma e ecoaram Trump sobre a China. Leis federais de "interruptor de desligamento" provavelmente não avançarão antes das eleições de novembro.

A preocupação segue a renúncia do pesquisador da Anthropic Jacob Coxon, que alertou que a IA "pode nos matar todos até o fim da década". Líderes como Dario Amodei, da Anthropic; Sam Altman, da Open AI; e Elon Musk, da Space X, fizeram um raro apelo conjunto para desacelerar os rápidos avanços na capacidade dos modelos após incidentes de hacking. Amodei propôs incorporar avaliadores independentes. Newsom disse que a Califórnia examinará tornar isso um requisito legal e ter planos de segurança de terceiros. Ele também ordenou implementação mais rápida de duas leis de segurança de IA da Califórnia. A Open AI recebeu bem a medida, prometendo trabalhar com o governador para "avançar salvaguardas fortes e adaptáveis".

Entidades-chave: Empresas: Open AI, Anthropic, Space X, Financial Times | Pessoas: Gavin Newsom, Donald Trump, Mike Johnson, Jacob Coxon, Dario Amodei, Sam Altman, Elon Musk | Locais: California, Washington, China, US Congress