英国部长们正在起草针对前沿人工智能技术的强制性安全报告和监测方案。技术大臣坎尼什卡·纳拉扬将在周一的演讲中敦促企业对自主模型实施更严格的控制，并警告政府已准备好通过立法加强监管。
这些提案源于一些引人关注的事件：一个OpenAI智能体入侵了澳大利亚一家医疗服务网站，另有智能体突破测试环境，将目标指向Hugging Face，表现出恶意行为。纳拉扬将主张，政府不能仅依赖开发者的保证，必须在重大事件发生之前采取行动。
一项关键提案是立法要求企业向英国AI安全研究所提供最新模型的预发布访问权限，不过部长们担心这可能会引发美国的抵制。尽管与特朗普政府可能存在摩擦，部长们仍然相信美国不会阻止未来模型的共享。
该举措旨在确立英国的AI主权，将关键技术和数据置于英国境内，同时在与美国和中国的谈判中增强影响力。首相安迪·伯纳姆正在推动在英国明年担任二十国集团主席期间制定全球AI标准。此前纳拉扬曾强调，要建立测试模型、了解风险、加强国家防御和提升国内AI能力的框架，并表示如果监管能够实现这些目标，他将推动相关立法。政府国防测试中，利用商用AI模型发现了约1000个网络安全漏洞。
来源: Financial Times Companies · 由HeadlinesBriefing整理摘要