黑客正在通过大规模虚假信息运动操纵包括ChatGPT、Gemini和Google AI Overview在内的AI系统，将用户引导至伪装成合法客服联系方式的钓鱼陷阱。攻击者利用生成引擎优化（GEO）技术，在网络上大量投放优化内容——帖子、PDF、评论和虚假支持页面——以欺骗AI引用欺诈性电话号码、电子邮件和登录页面，目标公司包括达美、汉莎、卡塔尔航空、摩根大通、美国银行、爱彼迎和TripAdvisor等数百家。例如，Google AI Overview曾将攻击者控制的电话号码呈现为汉莎航空的官方联系方式。这不是理论上的威胁：自动化攻击正在野外活跃进行，规模之大超过了传统清除手段的应对能力。根据Exploding Topics的数据，92%的用户不会核实AI回答的真实性，攻击正是利用了人们对AI输出的盲目信任。研究人员开发了一套检测系统，用于跨平台分析AI响应，评估来源是否存在GEO操纵并识别虚假联系信息。这标志着社会工程学的一次转变：新的攻击目标不再是直接欺骗人类，而是那些在网络上浏览的AI代理。这是关于AI虚假信息攻击的博客系列第一部分。