Los hackers están manipulando sistemas de IA incluyendo ChatGPT, Gemini y Google AI Overview a través de una masiva campaña de desinformación, dirigiendo a los usuarios a trampas de phishing disfrazadas como contactos legítimos de atención al cliente. Los atacantes inundan la web con contenido optimizado — publicaciones, PDFs, reseñas y páginas falsas de soporte — utilizando técnicas de Optimización del Motor Generativo (GEO) para engañar a la IA y hacer que cite números de teléfono, correos electrónicos y páginas de inicio fraudulentos de grandes marcas. Entre los objetivos se encuentran Delta, Lufthansa, Qatar Airways, Chase, Bank of America, Airbnb y TripAdvisor, entre cientos de otros.

En un ejemplo, Google AI Overview presentó un número de teléfono controlado por el atacante como el contacto oficial de Lufthansa. Esto no es teórico; campañas automatizadas están activas en la naturaleza, operando a una escala que las eliminaciones tradicionales no pueden igualar. Con el 92% de los usuarios que no verifican las respuestas de la IA según Exploding Topics, el ataque aprovecha la confianza ciega en las salidas de la IA.

Los investigadores construyeron un sistema de detección para analizar las respuestas de IA en todas las plataformas, puntuando las fuentes por manipulación GEO e identificando detalles de contacto falsos. Esto representa un cambio en la ingeniería social: los nuevos objetivos son agentes de IA que navegan por la web, no humanos directamente. Esto es la parte uno de una serie de blogs sobre ataques de desinformación de IA.