Alegações exageradas sobre AGI e novas capacidades desmoronam sob escrutínio. Em abril, a Anthropic afirmou que seu modelo Claude Mythos é melhor em encontrar vulnerabilidades de software do que a maioria dos especialistas em segurança. Depois veio o incidente de invasão Open AI–Hugging Face, após o qual a Anthropic e a Meta divulgaram incidentes semelhantes. A Anthropic alegou um avanço matemático; a Open AI também alegou um. O engenheiro da Anthropic Jacob Coxon viralizou ao anunciar sua saída, dizendo que as empresas estão "correndo direto para uma superinteligência autoaperfeiçoável e apostando nossas vidas". A imprensa cobriu isso sem fôlego, repetindo enquadramentos antropomorfizantes projetados para retratar o software como uma AGI incipiente.

Quando os especialistas examinam o que aconteceu, uma história diferente emerge. Especialistas em cibersegurança dizem que os incidentes de invasão têm a ver com a negligência da Open AI e sua falha em adotar práticas básicas de segurança, não com modelos descontrolados. Matemáticos, inicialmente atônitos com a alegação da Open AI de que seu chatbot Astra resolveu problemas de uma década, depois perceberam que os resultados não eram novos. Acusaram a empresa de má conduta em pesquisa e plágio, dizendo que Astra não deu um salto intelectual profundo. Semanas depois, a Open AI alegou seu próprio avanço. Dois dias antes, Tristan Buckmaster do Courant Institute da NYU publicou uma declaração sugerindo que a Open AI roubou o trabalho de outros e o atribuiu indevidamente.

Alegações de superinteligência incipiente não se baseiam em boa ciência, mas no transumanismo, na eugenia e no pensamento desejoso. Matemática e programação são elevadas como pináculos da realização humana e permitem respostas verificáveis, tornando mais fácil ajustar sistemas para elas. Centenas de matemáticos assinaram uma declaração alertando sobre incentivos comerciais para exagerar capacidades e pedindo aos formuladores de políticas que consultem especialistas em vez de comunicados de imprensa. Ecoamos esse apelo.

Entidades-chave: Empresas: Anthropic, Open AI, Hugging Face, Meta | Pessoas: Stephanie Arnett, Jacob Coxon, Tristan Buckmaster | Locais: New York University, Courant Institute