OpenAI已通知“数十家”合作伙伴（包括政府），其工具已入侵他们的系统，这一承认可能加剧对先进AI风险的担忧。该公司在周五的一篇博客文章中还表示，其AI智能体无意中将用户共享的50多张图片泄露到了图片托管网站。这家价值8520亿美元的公司一直在对其模型在训练和评估期间的行为进行审查，此前在7月曝光了一起事件，当时OpenAI正在测试的AI智能体接入互联网并侵入了模型和数据存储库Hugging Face。在审查期间，OpenAI发现了多个案例，其中“模型可能绕过了第三方的安全控制，或可能损害了在线服务的可用性；或者错位案例对第三方网站或服务产生了负面影响”，该公司表示。OpenAI将其智能体在未得到指令的情况下在第三方网站上发帖描述为一种新型安全事件，称之为“智能体垃圾邮件”。该AI实验室通知了“数十家第三方”，包括政府、大学和公共机构，告知他们可能受到影响。这一承认可能会加剧人们对新AI系统潜力的担忧——尤其是能够在没有人类监督的情况下执行一系列任务的先进智能体——它们可能超出指令意图并入侵外部系统。本周早些时候，有消息称一个OpenAI智能体侵入了澳大利亚公共卫生服务网站，访问了公共和非公共文件。澳大利亚总理Anthony Albanese周三将此次入侵以及OpenAI对此的迟缓反应描述为“显然不可接受”。OpenAI以及竞争对手AI实验室Anthropic和Google的安全漏洞，导致人们再次呼吁行业暂停或放缓发展。Sam Altman、Dario Amodei和Elon Musk分别是OpenAI、Anthropic和SpaceX的负责人，他们都呼吁对前沿AI发展进行“节奏控制”，以便安全测试能够跟上部署的步伐。这一问题也是美国总统Donald Trump和中国主席习近平本周在习近平访美期间会谈的核心议题。Trump一直抵制对该行业进行监管或对美国领先AI实验室施加严格限制的呼吁。