Gemini 4 Argon标志着AI模型能力的又一步进展,尤其是在编程、金融、法律、网络安全和科学等复杂现实任务的深度工作方面。其网络防御能力达到前沿水平,旨在让防御者比攻击者更具优势。在广泛发布之前,谷歌首先通过其Fairwind计划向网络防御人员开放访问权限,同时其自身的安全团队利用该模型扫描了谷歌内部和外部的关键系统。
这次有限的访问表明了这些能力的重要性。Wiz使用Argon发现了医院软件中一个此前模型遗漏的严重漏洞,帮助保护了数十万患者的记录。谷歌的安全团队使用Argon发现并修复了内部和开源软件中的漏洞,包括影响全球系统的基础性漏洞,这些漏洞正在依照负责任的披露流程处理。谷歌目前已开始广泛推出Argon,并将Fairwind计划扩展至更多值得信赖的网络防御人员。
谷歌重点关注两个主要问题。第一是滥用问题:如何阻止恶意行为者利用该模型发动网络攻击或制造生物威胁。第二是错位问题:如何确保模型不会偷工减料、逾越界限,或在高风险决策中做出错误判断。Argon解决了全部12个端到端模拟网络攻击场景,而上一代仅解决5个,这也是网络和生物领域安全防护得以加强的原因。
Argon在拒绝有害请求方面明显优于以往模型。在对抗性压力测试集上,违规情况减少了近两倍。该模型还包裹着三层实时保护:检测恶意意图的输入筛查、利用激活探针检测网络攻击或生物知识的内部自省,以及可在回复出现问题时实时中断输出的持续监控。谷歌完整的《安全与保障报告》详细介绍了这些防御措施。
来源: Google DeepMind Blog · 由HeadlinesBriefing整理摘要