Хакеры манипулируют системами ИИ, включая ChatGPT, Gemini и Google AI Overview, посредством масштабной кампании дезинформации, направляя пользователей на ловушки фишинга, замаскированные под легитимные контакты службы поддержки клиентов. Нападающие заполняют веб оптимизированным контентом — постами, PDF, отзывами и поддельными страницами поддержки — с использованием техник Генераторной Оптимизации Движка (GEO), чтобы обмануть ИИ и заставить его ссылаться на мошеннические номера телефонов, электронную почту и страницы входа крупных брендов. В числе целей Delta, Lufthansa, Qatar Airways, Chase, Bank of America, Airbnb и TripAdvisor, среди сотен других. В одном примере Google AI Overview представил номер телефона, контролируемый атакующим, как официальный контакт Lufthansa. Это не теоретически; автоматизированные кампании активны в дикой природе, работая в масштабе, которого традиционные удаления не могут достичь. По данным Exploding Topics, 92% пользователей не проверяют ответы ИИ, и атака эксплуатирует слепое доверие к выводам ИИ. Исследователи создали систему обнаружения для анализа ответов ИИ на всех платформах, оценивая источники на предмет манипуляции GEO и выявляя ложные контактные данные. Это представляет собой сдвиг в социальной инженерии: новые цели — это агенты ИИ, просматривающие веб, а не люди напрямую. Это часть первая из серии блогов о атаках дезинформации ИИ.