Gemini 4 Argon marque une avancée dans les capacités des modèles d'IA, en particulier pour le travail approfondi sur des tâches complexes du monde réel dans le développement logiciel, la finance, le droit, la cybersécurité et la science. Ses capacités de cyberdéfense sont de niveau avancé et conçues pour donner aux défenseurs un avantage sur les attaquants. Avant une diffusion large, Google a d'abord donné accès aux cyberdéfenseurs via son programme Fairwind, tandis que ses propres équipes de sécurité utilisaient le modèle pour analyser des systèmes critiques, au sein comme à l'extérieur de Google.
Cet accès limité a montré l'importance de ces capacités. Wiz a utilisé Argon pour découvrir une faille critique dans un logiciel hospitalier que les modèles précédents avaient manquée, contribuant à protéger des centaines de milliers de dossiers de patients. Les équipes de sécurité de Google ont utilisé Argon pour trouver et corriger des failles dans des logiciels internes et open source, y compris des vulnérabilités fondamentales affectant des systèmes dans le monde entier, qui font actuellement l'objet d'une divulgation responsable. Google commence désormais à déployer Argon largement et étend le programme Fairwind à d'autres cyberdéfenseurs de confiance.
Google s'est concentré sur deux grandes questions. La première est le détournement : comment empêcher des acteurs malveillants d'utiliser le modèle pour lancer des cyberattaques ou créer des menaces biologiques. La seconde est le désalignement : comment garantir que le modèle ne bâcle pas le travail, ne franchit pas les limites et ne prend pas de décisions erronées à fort enjeu. Argon a résolu les 12 scénarios de cyberattaque simulés de bout en bout, contre cinq pour la génération précédente, ce qui a justifié le renforcement des garde-fous dans les domaines cyber et biologique.
Argon est nettement meilleur que les modèles précédents pour refuser les requêtes nuisibles. Sur un jeu de tests de stress contradictoires, les violations ont été réduites de près de moitié. Le modèle est également protégé par trois couches de protection en temps réel : le filtrage des entrées pour détecter les intentions malveillantes, une introspection interne à l'aide de sondes d'activation qui détectent les connaissances liées aux cyberattaques ou à la biologie, et une surveillance continue capable d'interrompre une réponse en cours si elle devient problématique. Le rapport complet de Google sur la sécurité et la sûreté détaille ces défenses.
Source: Google DeepMind Blog · Résumé par HeadlinesBriefing