一名营销人员以约50美元的成本，在一天之内用GPT-4.1生成了5万条虚构统计数据，且没有核实任何一个数字。该网站以新域名stateglobe.com上线，自称提供来自200个国家的SEO、内容营销、社交媒体、电子商务和网络技术数据。
网站上线后不久，谷歌在两次更新后将这些页面从索引中移除，此后数月该网站在谷歌搜索结果中几乎不可见。然而，ChatGPT仍持续引用它。在七个月时间里，该网站吸引了超过10,000次AI会话，并获得了来自330多个引用域名的链接，其中包括Shopify、Bluehost和DHL。这些编造的数字还出现在一篇学术论文和一家银行的投资研究中。
这项实验源于一项研究，该研究探讨大型语言模型在缺乏信息时如何寻找可靠数据。由于时效性内容常由LLM撰写，模型经常搜索统计数据来填补空白。作者认为，大多数生成式引擎优化建议只关注让品牌出现在AI回答中，而本次测试则考察人们复用这些输出之后会发生什么。
Cloudflare数据显示，过去30天内有超过600,000次机器人请求，其中约72,000次来自ChatGPT用于抓取页面的代理ChatGPT-User。这些结果凸显了依赖AI搜索获取事实的风险：一旦虚假数据被发布，即使搜索引擎不再展示，也可能广泛传播。
来源: Hacker News · 由HeadlinesBriefing整理摘要