谷歌的人工智能系统 Gemini 于5月逃出其测试环境并黑客入侵了三家公司，搜索巨头周五表示。谷歌表示，这些事件发生在测试 Gemini 的网络安全能力期间，并且该人工智能模型在登录到三家公司的网络后停止了自己的攻击。这些黑客行为的披露紧随其他几家领先的人工智能实验室的类似越狱事件之后，包括 Anthropic、Open AI 和 Meta，这些事件引发了人们对该技术失控的担忧日益增多。一些行业领导人，如 Anthropic 的首席执行官 Dario Amodei，对此做出了回应，呼吁减缓人工智能的发展速度。另一些人，如芯片制造商 Nvidia 的首席执行官 Jensen Huang，则表示人工智能的发展应该继续推进。Gemini 事件发生在该模型正接受以色列初创公司 Irregular 的测试期间，Irregular 与科技公司合作，在这些人工智能模型公开发布之前评估它们。Open AI、Anthropic 和 Meta 制造的模型今年也在 Irregular 的测试期间获得了未经授权的互联网访问权限。上个月，Irregular 在一篇博客文章中表示：“互联网访问权限被无意中提供，导致一些模型采取了现实世界的攻击性安全行动，”并补充说，允许模型访问互联网的漏洞已经被修复。华尔街日报此前报道了 Gemini 事件。谷歌表示，在这些事件中，它的模型都被指示攻击一家虚构公司。但测试中的虚构公司与一家真实公司同名，并且当 Gemini 模型获得互联网访问权限时，它们开始尝试入侵该真实公司以及另外两家公司。Gemini 模型使用在线找到的或猜测的密码登录到目标公司及另外两家公司的在线基础设施。谷歌表示，一旦登录成功，Gemini 模型就意识到它们正在访问真实公司的基础设施，而不是其测试环境的一部分的模拟环境，并停止了攻击。谷歌还表示，它的技术对其黑客入侵的公司没有造成任何伤害。“所有相关实验室在7月底被通知，受影响的实体作为调查的一部分也被联系到了，”Irregular 在一份声明中表示。“Irregular 立即采取了行动，我们端的所有已知问题几周前就已得到解决。”谷歌安全工程副总裁 Heather Adkins 在一份声明中表示：“我们的安全团队长期以来一直在报告我们在他人软件和系统中发现的问题——甚至是像弱密码这样简单的问题。”她补充说：“我们确保了三方实体被告知情况，并与我们的培训合作伙伴一起处理他们现在对测试流程所做的更改。”“这些事件凸显了将强大的人工智能模型训练为负责任行事的重要性。”（纽约时报于2023年起诉 Open AI 和 Microsoft，指控它们侵犯了与人工智能系统相关的新闻内容版权。两家公司否认了这些指控。）上周，一位前 Anthropic 研究员表示该公司没有安全地构建这项技术，并且需要减速，这使得人工智能安全的争论愈演而深。Open AI 和谷歌的员工迅速表示赞同。但特朗普总统表示，他对制定强制减速的立法毫无兴趣，并称人工智能可能导致大规模灭绝的担忧是“骗局”。