Nos últimos meses, os dois principais laboratórios de IA de fronteira mostraram um comportamento audacioso. Tudo começou com anúncios da Open AI que estabeleceram quão poderosos seus agentes baseados em LLM se tornaram. Em seguida, passaram o bastão para a Anthropic, cujos funcionários debateram a probabilidade de extinção humana. A campanha atingiu o clímax quando o CEO da Anthropic, Dario Amodi, publicou uma carta intitulada "Devemos controlar a fronteira", enumerando os danos que sua própria empresa poderia causar e concluindo que a catástrofe só pode ser evitada se o governo desacelerar os concorrentes e deixar os laboratórios liderarem. O CEO da Open AI, Sam Altman, rapidamente tuitou seu apoio.

Internamente, esses laboratórios abraçam o pensamento messiânico, vendo-se como a única esperança da humanidade. Este verão foi, de certa forma, sua tentativa de nos iniciar nessa ideologia—mas não funcionou. Em vez disso, nos fez perguntar: "O que diabos está acontecendo nesses laboratórios?"

Publiquei um artigo de opinião no _The New York Times_ pedindo ao Congresso que inicie uma missão pública de investigação. Sugeri três áreas-chave: isolar os sistemas específicos que criam problemas, examinar os procedimentos internos de segurança (incluindo ataques de hackers não autorizados por agentes autônomos) e investigar o papel das ideologias futuristas apocalípticas que impulsionam decisões imprudentes.

"Precisamos parar de deixar que um pequeno número de empresas privadas dite como nos sentimos sobre IA", concluí. "É a vez do Congresso intervir em nosso nome para descobrir o que realmente está acontecendo."