あるマーケターが、約50ドルの費用で5万件の架空の統計を掲載したサイトを作成しました。GPT-4.1を使って一日で生成し、一つの数値も確認していません。サイトは新しいドメインstateglobe.comで公開され、200か国のSEO、コンテンツマーケティング、ソーシャルメディア、eコマース、ウェブ技術のデータを提供していると自称していました。
公開直後の二度のアップデートの後、Googleはこれらのページをインデックスから削除し、その後数か月間、サイトはGoogleの検索結果にほとんど表示されなくなりました。しかしChatGPTは引き続きこのサイトを引用しました。七か月の間に、このサイトはAIからの10,000回を超えるセッションを集め、Shopify、Bluehost、DHLなど330を超える参照ドメインからリンクを得ています。作られた数字は、学術論文や銀行の投資調査にも登場しました。
この実験は、大規模言語モデルが情報不足のときにどのように信頼できるデータを探すのかという研究から生まれました。時事性のあるコンテンツはしばしばLLMを使って書かれるため、モデルは空白を埋めるために統計をよく探します。筆者は、生成エンジン最適化の助言の多くがAIの回答にブランドを載せることだけに焦点を当てているのに対し、このテストは人々がその出力を再利用した後に何が起こるかを検証していると主張しています。
Cloudflareのデータでは、過去30日間に600,000件を超えるボットリクエストがあり、そのうち約72,000件はChatGPTがページを取得する際に使うエージェントであるChatGPT-Userからのものでした。この結果は、事実確認にAI検索を頼る人々にとってのリスクを浮き彫りにします。作られた数字は、一度公開されると、検索エンジンがもはや表示しなくなった後でも広く拡散しうるのです。
出典: Hacker News · 要約：HeadlinesBriefing