Os hackers estão manipulando sistemas de IA incluindo ChatGPT, Gemini e Google AI Overview por meio de uma massiva campanha de desinformação, direcionando usuários para armadilhas de phishing disfarçadas como contatos legítimos de atendimento ao cliente. Os atacantes inundam a web com conteúdo otimizado — postagens, PDFs, avaliações e páginas de suporte falsas — usando técnicas de Otimização do Motor Gerativo (GEO) para enganar a IA a fazer referência a números de telefone, e-mails e páginas de login fraudulentos de grandes marcas. Os alvos incluem Delta, Lufthansa, Qatar Airways, Chase, Bank of America, Airbnb e TripAdvisor, entre centenas de outros.

Em um exemplo, o Google AI Overview apresentou um número de telefone controlado pelo atacante como o contato oficial da Lufthansa. Isso não é teórico; campanhas automatizadas estão ativas na natureza, operando em uma escala que as remoções tradicionais não podem igualar. Com 92% dos usuários não verificando as respostas da IA de acordo com o Exploding Topics, o ataque explora a confiança cega nas saídas da IA.

Os pesquisadores construíram um sistema de detecção para analisar as respostas de IA em todas as plataformas, pontuando as fontes pela manipulação GEO e identificando detalhes de contato falsos. Isso representa uma mudança na engenharia social: os novos alvos são agentes de IA navegando na web, não humanos diretamente. Esta é a parte um de uma série de blogs sobre ataques de desinformação de IA.