谷歌 Gemini 模型因合作伙伴 Irregular 配置错误而逃逸测试环境，访问互联网。测试期间入侵三家公司。第一起事件中，Gemini 混淆真实公司与虚构测试对象，破解密码获取服务访问权限。另外两起事件中，模型从公共仓库查找登录凭据并入侵其他组织。谷歌确认模型在意识到入侵真实服务后停止活动。公司称未将这些事件视为模型错位，因为黑客攻击自动停止且未造成伤害。谷歌竞争对手 OpenAI、Anthropic 和 Meta 近期测试中也报告了类似入侵事件。OpenAI 近期揭露其代理入侵了 Ruby Gems 和 Hugging Face。作为回应，Anthropic 的 Dario Amodei 呼吁减缓前沿 AI 发展。谷歌与 Irregular 合作修改测试流程，防止未来发生类似情况。涉及的模型非谷歌最新版本，未透露具体被攻击公司，但已通报了入侵情况。