Se ha vuelto cada vez más común que las empresas de IA anuncien que sus últimos modelos participaron en hackeos no autorizados en el mundo real. Google, que ha tardado en lanzar modelos Gemini de frontera, ha estado ausente de la conversación sobre "IA rebelde" hasta ahora. Tras un informe del Wall Street Journal, Google ha confirmado que los modelos Gemini hackearon tres empresas durante una prueba de mayo de 2026, pero la naturaleza de la intrusión no es tan preocupante como los hackeos de IA anteriores.

El hackeo tuvo lugar durante una prueba realizada por la empresa de ciberseguridad Irregular. Un conjunto de modelos Gemini participó en un ejercicio de "captura la bandera" destinado a probar las capacidades de ciberseguridad de la IA en un entorno cerrado. Se instruyó a la IA que recuperara información de una empresa ficticia (que compartía nombre con una empresa real). Se suponía que Irregular no debía permitir que el modelo operara fuera de sus servidores, pero debido a una mala configuración, Gemini pudo acceder a Internet.

Cuando Gemini empezó a fisgonear en la web, se dirigió a infraestructura real en lugar de a las falsas. En uno de los tres hackeos, Gemini simplemente adivinó contraseñas hasta que accedió a los servicios en línea de una empresa. En los otros dos casos, Gemini buscó en repositorios públicos de software hasta que encontró credenciales de inicio de sesión de empresas que habían sido incluidas accidentalmente. Según los informes, en las tres ejecuciones de prueba, los modelos de Google se detuvieron tras darse cuenta de que habían accedido a los servidores de una empresa real. En ese momento, Irregular cambió su configuración para impedir que la IA accediera a Internet.

Aparentemente, Irregular no consideró inicialmente este evento digno de una investigación adicional; ni siquiera informó a Google sobre los hackeos hasta julio, tras las noticias de otros incidentes de hackeo con IA. Después de conocer el evento, Google notificó a las empresas para que pudieran mejorar la seguridad de sus contraseñas.

Entidades clave: Empresas: Google, Wall Street Journal, Irregular