Gemini 4 Argon знаменует шаг вперёд в возможностях ИИ-моделей, особенно для глубокой работы над сложными реальными задачами в программировании, финансах, юриспруденции, кибербезопасности и науке. Его возможности в кибероборане находятся на передовом уровне и призваны дать защитникам преимущество над злоумышленниками. Перед широким выпуском Google сначала предоставила доступ специалистам по кибербезопасности через программу Fairwind, а собственные команды безопасности использовали модель для проверки критически важных систем внутри и вне Google.
Этот ограниченный доступ показал, почему эти возможности важны. Wiz использовала Argon, чтобы обнаружить критическую уязвимость в программном обеспечении больниц, которую пропустили предыдущие модели, что помогло защитить сотни тысяч медицинских записей пациентов. Команды безопасности Google использовали Argon для поиска и устранения уязвимостей во внутреннем и открытом программном обеспечении, включая фундаментальные уязвимости, затрагивающие системы по всему миру, которые сейчас проходят ответственное раскрытие. Google теперь начинает широкое внедрение Argon и расширяет программу Fairwind на дополнительных доверенных специалистов по кибербезопасности.
Google сосредоточилась на двух основных вопросах. Первый — злоупотребления: как не допустить использования модели злоумышленниками для кибератак или создания биологических угроз. Второй — рассогласование: как гарантировать, что модель не будет срезать углы, выходить за установленные границы или принимать ошибочные решения в ситуациях с высокими ставками. Argon решил все 12 сквозных смоделированных сценариев кибератак против пяти у предыдущего поколения, поэтому меры защиты были усилены как в кибернетической, так и в биологической областях.
Argon значительно лучше предыдущих моделей отказывает в выполнении вредоносных запросов. На наборе состязательных стресс-тестов количество нарушений снизилось почти вдвое. Модель также защищена тремя уровнями защиты в реальном времени: фильтрацией входных данных на предмет вредоносных намерений, внутренним самоанализом с помощью зондов активации, которые выявляют знания о кибератаках или биологии, и непрерывным мониторингом, который может прервать ответ на полпути, если он становится проблемным. Полный отчёт Google о безопасности подробно описывает эти меры защиты.
Источник: Google DeepMind Blog · Сводку подготовил HeadlinesBriefing