ハッカーは、ChatGPT、Gemini、Google AI Overviewを含むAIシステムを、大規模な偽情報キャンペーンを通じて操作しており、ユーザーを正当なカスタマーサポート連絡先として偽装されたフィッシングの罠に誘導しています。攻撃者は、Generative Engine Optimization（GEO）技術を使用して、ウェブを最適化されたコンテンツ — 投稿、PDF、レビュー、偽のサポートページ — で氾濫させ、AIをだまして主要ブランドの詐欺的な電話番号、メール、ログインページを引用させています。標的にはデルタ、ルフトハンザ、カタール航空、チェイス、バンク・オブ・アメリカ、Airbnb、TripAdvisorなど、何百ものその他の企業が含まれます。例えば、Google AI Overviewが攻撃者によって制御された電話番号をルフトハンザの公式連絡先として提示した事例があります。これは理論上の話ではなく、自動化されたキャンペーンが野生で活発に行われており、従来の削除では対応できない規模で行われています。Exploding Topicsによると、ユーザーの92%がAIの回答を確認しておらず、攻撃はAIの出力への盲目的な信頼を悪用しています。研究者たちは、プラットフォーム間でAIの応答を分析し、GEO操作によるソースをスコアリングし、偽の連絡先情報を特定する検出システムを構築しました。これは社会工学の変化を示しています：新たな標的はウェブを閲覧するAIエージェントであり、人間を直接標的とするものではありません。これはAI偽情報攻撃に関するブログシリーズの第1部です。