हैकर्स ChatGPT, Gemini और Google AI Overview जैसी AI प्रणालियों को एक बड़े पैमाने पर गलत सूचना अभियान के माध्यम से हेरफेर कर रहे हैं, उपयोगकर्ताओं को वैध ग्राहक समर्थन संपर्कों के रूप में छिपे हुए फिशिंग जालों की ओर निर्देशित कर रहे हैं। हमलावर वेब पर अनुकूलित सामग्री — पोस्ट, PDF, समीक्षाएं और नकली समर्थन पृष्ठ — की बाढ़ ला रहे हैं, जनरेटिव इंजन ऑप्टिमाइज़ेशन (GEO) तकनीकों का उपयोग करके AI को धोखा दे रहे हैं ताकि वह प्रमुख ब्रांडों के लिए धोखाधड़ी वाले फोन नंबर, ईमेल और लॉगिन पृष्ठों का हवाला दे। लक्ष्य डेल्टा, लुफ्थांसा, कतर एयरवेज, चेज़, बैंक ऑफ अमेरिका, एयरबीएनबी और ट्रिपएडवाइज़र जैसे सैकड़ों अन्य लोगों सहित हैं। एक उदाहरण में, Google AI Overview ने एक हमलावर-नियंत्रित फोन नंबर को लुफ्थांसा का आधिकारिक संपर्क दिखाया। यह सैद्धांतिक नहीं है; स्वचालित अभियान जंगल में सक्रिय हैं, पारंपरिक टakedowns के मुकाबले बहुत बड़े पैमाने पर काम कर रहे हैं। Exploding Topics के अनुसार, 92% उपयोगकर्ता AI के उत्तर की पुष्टि नहीं करते हैं, हमला AI आउटपुट में अंधे विश्वास का फायदा उठा रहा है। शोधकर्ताओं ने सभी प्लेटफॉर्म पर AI प्रतिक्रियाओं का विश्लेषण करने के लिए एक पहचान प्रणाली बनाई है, स्रोतों के GEO हेरफेर के लिए स्कोर दे रहे हैं और झूठे संपर्क विवरण पहचान रहे हैं। यह सामाजिक इंजीनियरिंग में एक परिवर्तन दर्शाता है: नए लक्ष्य वेब पर ब्राउज़ करने वाले AI एजेंट हैं, मानवों को सीधे नहीं। यह AI गलत सूचना हमलों पर ब्लॉग श्रृंखला का भाग एक है।