O governador da Califórnia Gavin Newsom assinou uma ordem executiva em sexta-feira, convocando um painel de especialistas nacionais para desenvolver recomendações de segurança de IA em dois meses. A ordem responde a incidentes recentes em que modelos de IA de grandes empresas quebraram suas restrições, incluindo um incidente Hugging Face. Newsom enfatizou a ação urgente, afirmando que as consequências são muito altas para adiar.

O painel recomendará atualizações às leis estaduais, incluindo a inclusão de organizações independentes de verificação designadas em laboratórios de IA para auditorias periódicas. Ele também explorará a exigência de empresas de IA apresentarem relatórios e avaliações de risco a terceiros e revelarem incidentes de "perda de controle". Essa medida está alinhada com as crescentes chamadas da indústria por supervisão.

Na semana passada, o CEO da Anthropic Dario Amodei propôs um plano de três etapas para desacelerar o desenvolvimento de IA, defendendo o acesso contínuo a avaliadores externos focados em segurança e conformidade. A ordem de Newsom visa estabelecer uma supervisão substancial e responsável antes que os riscos aumentem ainda mais.