Gemini 4 Argon marca un avance en lo que los modelos de IA pueden hacer, especialmente en el trabajo profundo sobre tareas complejas del mundo real en programación, finanzas, derecho, ciberseguridad y ciencia. Sus capacidades de ciberdefensa son de nivel de vanguardia y están diseñadas para dar a los defensores una ventaja sobre los atacantes. Antes de un lanzamiento amplio, Google dio primero acceso a defensores cibernéticos a través de su Programa Fairwind, mientras sus propios equipos de seguridad usaban el modelo para analizar sistemas críticos dentro y fuera de Google.
Este acceso limitado demostró por qué estas capacidades importan. Wiz usó Argon para descubrir un error crítico en un software hospitalario que los modelos anteriores habían pasado por alto, ayudando a proteger cientos de miles de historiales de pacientes. Los equipos de seguridad de Google usaron Argon para encontrar y corregir errores en software interno y de código abierto, incluidas vulnerabilidades fundamentales que afectan a sistemas de todo el mundo, las cuales están siendo tratadas mediante una divulgación responsable. Google ya comienza a desplegar Argon de forma amplia y a ampliar el Programa Fairwind a más defensores cibernéticos de confianza.
Google se centró en dos grandes preguntas. La primera es el uso indebido: cómo impedir que actores malintencionados usen el modelo para lanzar ciberataques o crear amenazas biológicas. La segunda es la desalineación: cómo garantizar que el modelo no tome atajos, no cruce límites ni tome decisiones incorrectas de alto riesgo. Argon resolvió las 12 simulaciones de ciberataques de extremo a extremo, frente a cinco en la generación anterior, por lo que se reforzaron las salvaguardas en los ámbitos cibernético y biológico.
Argon es significativamente mejor que los modelos anteriores para rechazar solicitudes dañinas. En un conjunto de pruebas de estrés adversarial, las infracciones se redujeron casi a la mitad. El modelo también cuenta con tres capas de protección en tiempo real: el filtrado de entradas para detectar intenciones maliciosas, la introspección interna mediante sondas de activación que detectan conocimiento sobre ciberataques o biología, y una monitorización continua que puede cortar una respuesta a mitad de camino si se vuelve problemática. El Informe completo de Seguridad y Protección de Google detalla estas defensas.
Fuente: Google DeepMind Blog · Resumido por HeadlinesBriefing