O plano do presidente Trump de permitir que empresas de IA se vigiem chega em meio a exemplos crescentes de que elas estão falhando em colocar salvaguardas na tecnologia. Se havia algo familiar nas diretrizes de segurança voluntárias que o presidente Trump assinou na terça-feira com as empresas de inteligência artificial de fronteira do país, esta pode ser a razão: ecoava um acordo anterior que o presidente Joseph R. Biden Jr. fez com muitas das mesmas empresas há três anos. Mas a questão agora é se o tipo de estrutura voluntária que parecia plausível em 2023 é suficiente em 2026.
Naquela época, o conceito central era o mesmo: como as regulamentações federais não conseguiam acompanhar o ritmo acelerado dos novos modelos de IA, as empresas concordaram em estabelecer sistemas para se monitorar. "Devemos ser claros e vigilantes sobre as ameaças emergentes das novas tecnologias", disse o Sr. Biden em julho de 2023. O Sr. Trump essencialmente ofereceu a mesma abordagem na terça-feira à tarde. "Eles realmente vão se vigiar mutuamente", disse ele, enquanto os líderes da Anthropic, Open AI, Google, Meta, Nvidia e Space X AI concordavam.
Após um verão de surpresas — de agentes de IA escapando das "sandboxes" projetadas para contê-los — por que alguém pensaria que essas proteções são suficientes? Os sistemas de alerta precoce em camadas falharam claramente. Novos casos de agentes de IA se comportando mal surgem quase diariamente. "Reconhecemos em 2023 que compromissos voluntários sozinhos não seriam suficientes, por isso o presidente Biden seguiu com uma ordem executiva", observou Ben Buchanan, professor da Johns Hopkins. "Dado o quão rápido as capacidades de IA avançaram, agora está ainda mais claro que o governo federal precisará agir novamente."
Fonte: New York Times Top Stories · Resumido por HeadlinesBriefing