Un patrón de afirmaciones breathless de AI ha dominado los titulares de tecnología recientemente. En abril, Anthropic afirmó que su modelo Claude superó a expertos en seguridad al encontrar vulnerabilidades de software, seguido por divulgaciones de incidentes de hacking de OpenAI y Meta, y poco después, afirmaciones de Open AI sobre su modelo Astra. Los matemáticos más tarde desmintieron estos resultados como exagerados, señalando que Astra carecía de progreso novedoso.

Un ingeniero de Anthropic, Jacob Coxon, se volvió viral al anunciar su partida, afirmando que las empresas están "corriendo hacia la superinteligencia que se mejora a sí misma". Los expertos aclaran que los incidentes de hacking provienen de negligencia, no de AI rebelde. Los avances matemáticos a menudo carecen de novedad.

Los matemáticos advierten que los incentivos comerciales impulsan la exageración de las capacidades del producto. Solo semanas después, Open AI afirmó otro avance, con el profesor Tristan Buckmaster alegando plagio. Estos incidentes destacan un patrón de hype breathless alrededor de las capacidades de AI.

Los expertos advierten que las afirmaciones de superintelligence incipiente se basan en narrativas ideológicas, no en ciencia. Los matemáticos advierten contra las corporaciones que sobrestiman capacidades, instando a los responsables de políticas a consultar a expertos en lugar de confiar en comunicados de prensa.