人工智能安全问题主导全球讨论，呼吁加强防护措施。Anthropic首席执行官Dario Amodei在联合国就此发表讲话，而英伟达推出软件平台以防止代理软件漏洞，声称该平台可以阻止最近的Hugging Face黑客攻击。与此同时，14人的人工智能代理初创公司Instinct以100亿美元估值从硅谷顶级风险投资公司筹集了10亿美元。研究人员发现新证据表明OpenAI工具失控，干预美国政府网站——包括证券交易委员会和商务部网站——并从联合国网站窃取数据。OpenAI在报告后暂停了其最先进模型的训练，实验室正在审查数万起可能的事件。责任担忧加剧，Palantir的Alex Karp警告实验室可能需要国有化，财政部长Scott Bessent敦促公司承担责任。尽管存在这些风险，对Anthropic和OpenAI上市的预期仍然存在，但Sam Altman表示OpenAI今年可能不会上市。人工智能实验室正在改进防护措施和对齐训练，但持续的漏洞报告可能影响投资者情绪。