Un marketeur a créé un site web contenant 50 000 statistiques inventées pour environ 50 $, générées en une seule journée avec GPT-4.1 sans vérifier un seul chiffre. Le site a été lancé sur le nouveau domaine stateglobe.com et se présentait comme fournissant des données sur le SEO, le marketing de contenu, les réseaux sociaux, le commerce électronique et les technologies web dans 200 pays.
Google a désindexé les pages après deux mises à jour peu après le lancement, et le site est resté presque invisible dans les résultats de Google pendant des mois. ChatGPT, en revanche, a continué à le citer. Sur sept mois, le site a enregistré plus de 10 000 sessions issues de l'IA et des liens provenant de plus de 330 domaines référents, dont Shopify, Bluehost et DHL. Les chiffres fabriqués sont également apparus dans un article universitaire et dans une étude d'investissement d'une banque.
L'expérience découle de recherches sur la manière dont les grands modèles de langage recherchent des données fiables lorsqu'ils manquent d'informations. Comme les contenus sensibles au temps sont souvent rédigés avec des LLM, ces modèles cherchent fréquemment des statistiques pour combler les lacunes. L'auteur soutient que la plupart des conseils d'optimisation pour les moteurs génératifs ne visent qu'à faire apparaître une marque dans une réponse de l'IA, alors que ce test examine ce qui se passe lorsque les gens réutilisent ce résultat.
Les données de Cloudflare ont montré plus de 600 000 requêtes de robots au cours des 30 derniers jours, dont environ 72 000 provenaient de ChatGPT-User, l'agent que ChatGPT utilise pour récupérer des pages. Les résultats mettent en lumière un risque pour quiconque se fie à la recherche par IA pour obtenir des faits : des chiffres fabriqués peuvent se propager largement une fois publiés, même lorsque les moteurs de recherche ne les affichent plus.
Source: Hacker News · Résumé par HeadlinesBriefing