Un especialista en marketing creó un sitio web con 50.000 estadísticas inventadas por unos 50 dólares, generadas en un solo día con GPT-4.1 sin verificar ni una sola cifra. El sitio se lanzó en el nuevo dominio stateglobe.com y se presentaba como proveedor de datos de SEO, marketing de contenidos, redes sociales, comercio electrónico y tecnología web de 200 países.
Google desindexó las páginas tras dos actualizaciones poco después del lanzamiento, y durante meses el sitio ha sido prácticamente invisible en los resultados de Google. ChatGPT, sin embargo, siguió citándolo. Durante siete meses, el sitio ha recibido más de 10.000 sesiones desde IA y enlaces de más de 330 dominios de referencia, entre ellos Shopify, Bluehost y DHL. Las cifras inventadas también han aparecido en un artículo académico y en una investigación de inversiones de un banco.
El experimento surgió de una investigación sobre cómo los grandes modelos de lenguaje buscan datos fiables cuando carecen de información. Como el contenido sensible al tiempo a menudo se redacta con LLM, los modelos suelen buscar estadísticas para llenar vacíos. El autor sostiene que la mayoría de los consejos de optimización para motores generativos se centran solo en que una marca aparezca en una respuesta de IA, mientras que esta prueba examina lo que ocurre después de que las personas reutilizan esa información.
Los datos de Cloudflare mostraron más de 600.000 solicitudes de bots en los últimos 30 días, unas 72.000 de ChatGPT-User, el agente que ChatGPT utiliza para obtener páginas. Los resultados ponen de relieve un riesgo para quienes confían en la búsqueda con IA para obtener datos: las cifras fabricadas pueden difundirse ampliamente una vez publicadas, incluso cuando los buscadores ya no las muestran.
Fuente: Hacker News · Resumido por HeadlinesBriefing