Las afirmaciones grandilocuentes sobre la AGI y nuevas capacidades se desmoronan bajo escrutinio. En abril, Anthropic afirmó que su modelo Claude Mythos es mejor encontrando vulnerabilidades de software que la mayoría de los expertos en seguridad. Luego vino el incidente de hackeo de Open AI–Hugging Face, tras el cual Anthropic y Meta divulgaron incidentes similares. Anthropic afirmó un avance matemático; Open AI también afirmó uno. El ingeniero de Anthropic Jacob Coxon se hizo viral al anunciar su salida, diciendo que las empresas están "corriendo directamente hacia una superinteligencia que se mejora a sí misma y apostando con nuestras vidas". La prensa cubrió esto sin aliento, repitiendo marcos antropomorfizantes diseñados para retratar el software como una AGI incipiente.

Una vez que los expertos examinan lo que ocurrió, surge una historia diferente. Los expertos en ciberseguridad dicen que los incidentes de hackeo tienen que ver con la negligencia de Open AI y su fracaso en adoptar prácticas básicas de seguridad, no con modelos descontrolados. Los matemáticos, inicialmente atónitos por la afirmación de Open AI de que su chatbot Astra resolvió problemas de hace una década, luego se dieron cuenta de que los resultados no eran novedosos. Acusaron a la empresa de mala conducta en la investigación y plagio, diciendo que Astra no dio un salto intelectual profundo. Semanas después, Open AI afirmó su propio avance. Dos días antes, Tristan Buckmaster del Instituto Courant de la NYU publicó una declaración sugiriendo que Open AI robó el trabajo de otros y lo atribuyó indebidamente.

Las afirmaciones de una superinteligencia incipiente no se basan en buena ciencia sino en el transhumanismo, la eugenesia y el pensamiento ilusorio. Las matemáticas y la programación se elevan como pináculos del logro humano y permiten respuestas verificables, lo que facilita ajustar sistemas para ellas. Cientos de matemáticos firmaron una declaración advirtiendo sobre los incentivos comerciales para exagerar capacidades y pidiendo a los legisladores que consulten a expertos en lugar de comunicados de prensa. Nos hacemos eco de este llamado.

Entidades clave: Empresas: Anthropic, Open AI, Hugging Face, Meta | Personas: Stephanie Arnett, Jacob Coxon, Tristan Buckmaster | Ubicaciones: Universidad de Nueva York, Instituto Courant