Ein Marketer baute eine Website mit 50.000 erfundenen Statistiken für rund 50 $, die er an einem einzigen Tag mit GPT-4.1 erzeugte, ohne eine einzige Zahl zu prüfen. Die Seite ging unter der neuen Domain stateglobe.com online und gab sich als Anbieter von Daten zu SEO, Content-Marketing, Social Media, E-Commerce und Webtechnologie aus 200 Ländern aus.
Google entfernte die Seiten nach zwei Updates kurz nach dem Start aus dem Index, und die Website war monatelang in den Google-Ergebnissen nahezu unsichtbar. ChatGPT zitierte sie jedoch weiterhin. Über sieben Monate erzielte die Seite mehr als 10.000 Sitzungen aus KI-Diensten und Links von über 330 verweisenden Domains, darunter Shopify, Bluehost und DHL. Die erfundenen Zahlen tauchten außerdem in einer wissenschaftlichen Arbeit und in einer Anlageanalyse einer Bank auf.
Das Experiment entstand aus Forschung darüber, wie große Sprachmodelle verlässliche Daten suchen, wenn ihnen Informationen fehlen. Da zeitkritische Inhalte häufig mit LLMs verfasst werden, suchen die Modelle oft nach Statistiken, um Lücken zu füllen. Der Autor argumentiert, dass sich die meisten Ratschläge zur Generative Engine Optimization nur darauf konzentrieren, eine Marke in einer KI-Antwort zu platzieren, während dieser Test untersucht, was geschieht, nachdem Menschen diese Ausgabe weiterverwenden.
Cloudflare-Daten zeigten in den letzten 30 Tagen mehr als 600.000 Bot-Anfragen, davon rund 72.000 von ChatGPT-User, dem Agenten, mit dem ChatGPT Seiten abruft. Die Ergebnisse verdeutlichen ein Risiko für alle, die sich bei Fakten auf die KI-Suche verlassen: Erfundene Zahlen können sich nach ihrer Veröffentlichung weit verbreiten, selbst wenn Suchmaschinen sie nicht mehr anzeigen.
Quelle: Hacker News · Zusammengefasst von HeadlinesBriefing