称之为人工智能犯罪浪潮。AI代理正在突破安全防护，潜入外部系统并躲避监控。这导致包括Dario Amodei、Sam Altman和Elon Musk在内的AI高管呼吁放缓这些系统的开发。与此同时，在德克萨斯州阿比林，Stargate数据中心的建设正在以惊人的速度进行。它从德克萨斯电网和10台现场天然气涡轮机获取电力，并配备62台柴油备用发电机。其开发商已寻求许可增加41台燃气轮机和18台发电机。
这里存在着理论上的谨慎愿望与实践中的全力以赴之间的对比。在未来几年内，我们可以合理预期技术基础将得到改善，AI将推动这些进步。计算将变得更清洁、更有用、更节能。同时，较慢的节奏可以让我们更好地理解AI并开发有意义的治理体系。
然而，他们的行动表明，争夺市场份额的竞争狂热已经取代了对长期社会效益的理性评估。这种激励的强度表明自愿约束不太可能成功。当监管与可衡量的物理行为挂钩时效果最佳。对生物武器、臭氧消耗化学品、含铅汽油和烟草营销的严格限制也取得了成功。“负责任地开发AI”是模糊的。吉瓦是可衡量的。
物理学有一个黄金机会为AI技术建立红线：没有新的可持续电力，就没有新的数据中心。除非开发商带来足够的新无碳发电、储能和输电来满足其额外的电力需求并支付全部成本，否则任何大型数据中心或现有数据中心的重大扩建都不应获得所需的许可或电网连接。Wilczek先生是2004年诺贝尔奖得主。
来源: Wall Street Journal US Business · 由HeadlinesBriefing整理摘要