Hacker sedang memanipulasi sistem AI termasuk ChatGPT, Gemini dan Google AI Overview melalui kampanye desinformasi massiva, mengarahkan pengguna ke jebakan phishing yang disamarkan sebagai kontak layanan pelanggan yang sah. Penyerang membanjiri web dengan konten yang dioptimasi — postingan, PDF, ulasan, dan halaman dukungan palsu — menggunakan teknik Optimasi Mesin Generatif (GEO) untuk menipu AI sehingga mengutip nomor telepon, email, dan halaman login yang fraudulen untuk merek besar. Target meliputi Delta, Lufthansa, Qatar Airways, Chase, Bank of America, Airbnb dan TripAdvisor, di antara ratusan lainnya.

Dalam satu contoh, Google AI Overview menampilkan nomor telepon yang dikendalikan penyerang sebagai kontak resmi Lufthansa. Ini bukan hanya teori; kampanye otomatis aktif di liar, beroperasi dalam skala yang tidak dapat dicapai oleh pencabutan tradisional. Dengan 92% pengguna yang tidak memverifikasi jawaban AI menurut Exploding Topics, serangan memanfaatkan kepercayaan buta terhadap output AI.

Peneliti telah membangun sistem deteksi untuk menganalisis respons AI di seluruh platform, memberi skor pada sumber untuk manipulasi GEO dan mengidentifikasi detail kontak palsu. Ini mewakili perubahan dalam rekayasa sosial: target baru adalah agen AI yang menjelajah web, bukan manusia secara langsung. Ini adalah bagian satu dari rangkaian blog tentang serangan desinformasi AI.