O Gemini 4 Argon marca um avanço no que os modelos de IA podem fazer, especialmente no trabalho aprofundado em tarefas complexas do mundo real em programação, finanças, direito, cibersegurança e ciência. Suas capacidades de ciberdefesa estão no nível de vanguarda e foram projetadas para dar aos defensores uma vantagem sobre os atacantes. Antes de um lançamento amplo, o Google deu primeiro acesso a defensores cibernéticos por meio de seu Programa Fairwind, enquanto suas próprias equipes de segurança usaram o modelo para analisar sistemas críticos dentro e fora do Google.
Esse acesso limitado mostrou por que essas capacidades importam. A Wiz usou o Argon para descobrir uma falha crítica em um software hospitalar que modelos anteriores haviam deixado passar, ajudando a proteger centenas de milhares de registros de pacientes. As equipes de segurança do Google usaram o Argon para encontrar e corrigir falhas em softwares internos e de código aberto, incluindo vulnerabilidades fundamentais que afetam sistemas em todo o mundo, que estão passando por divulgação responsável. O Google agora começa a lançar o Argon amplamente e a expandir o Programa Fairwind para mais defensores cibernéticos confiáveis.
O Google concentrou-se em duas grandes questões. A primeira é o uso indevido: como impedir que agentes mal-intencionados usem o modelo para lançar ciberataques ou criar ameaças biológicas. A segunda é o desalinhamento: como garantir que o modelo não cometa atalhos, não ultrapasse limites ou tome decisões incorretas de alto risco. O Argon resolveu todos os 12 cenários de ciberataque simulados de ponta a ponta, contra cinco na geração anterior, e por isso as salvaguardas foram reforçadas nos domínios cibernético e biológico.
O Argon é significativamente melhor em recusar pedidos prejudiciais do que os modelos anteriores. Em um conjunto de testes de estresse adversariais, as violações caíram quase pela metade. O modelo também é envolvido por três camadas de proteção em tempo real: a triagem de entradas para detectar intenções maliciosas, a introspecção interna usando sondas de ativação que detectam conhecimento sobre ciberataques ou biologia, e o monitoramento contínuo que pode interromper uma resposta no meio caso ela se torne problemática. O Relatório completo de Segurança e Proteção do Google detalha essas defesas.
Fonte: Google DeepMind Blog · Resumido por HeadlinesBriefing