AI首席执行官对其竞相推向市场的产品发出警报，这既是对失败的惊人承认，也是治理的壮观失误。既然如此，为何全球政客仍请这些CEO谈论解决方案，同时辩论其技术是否注定毁灭人类？我们再次允许企业领袖主导讨论条款，并询问他们应如何应对。甚至欧洲委员会主席乌尔苏拉·冯德莱恩在最近的盟情咨文中，邀请AI首席执行官讨论“如何把握前沿节奏”并“支持行业正在进行的努力”。这种示好在错误的时间发出了错误的信号。想象一下，让石油公司制定气候政策，或让汽车公司制定交通规则。这尤为奇特，因为欧洲已有全面的AI法律——《欧盟人工智能法案》，其核心是风险缓解。政治领袖不应询问商业领袖社会未来需要什么，而应更好地压力测试其主张，确保其业务和产品造福全社会。当数据中心在所有权、资源需求及对当地社区影响不透明的情况下建立时，立法者在哪里？当安全顾虑为提升竞争优势被搁置时，监管在哪里？法律应成为欧洲领导人任何行动的锚点，并在技术进步必要时更新。《人工智能法案》目前包含透明度义务、评估和缓解系统性风险，并预见对通用模型的监管。这些正是许多专家希望监管在其他地方也能确保的基石。欧洲不应安排与AI首席执行官的峰会，以替代执行其已有的规则。更有力地执行现有法律能带来更直接的行动。社会需要更好地了解AI实验室内部发生的一切，从实验到部署。这将使我们能够进行风险评估、制定政策，并据此调整甚至暂停新模型发布。由必须遵守的公司协商的非约束性暂停协议不会带我们走向更好的境地。事实上，AI领袖早前呼吁暂停前沿模型开发，却导致其行为零改变。我们需要由民主领袖和机构主导的全面治理重置，以实现独立审查和真正的问责。Anthropic的达里奥·阿莫代伊呼吁建立民主国家联盟共同治理AI安全。作为领先前沿实验室的所在地，美国掌握着此类联盟的关键。当美国公司在国内受到问责，影响将波及全球。华盛顿将享有自己的“布鲁塞尔效应”：美国规则将成为默认的全球AI治理标准，正如欧盟的数据保护和产品安全规则塑造了远超其边界的规范。然而，这种效应只有在规则有实质内容且价值观与其他民主国家一致时才会实现。如果科技公司想看到全球AI治理，就应游说华盛顿制定有约束力的法规，这与目前采取的做法截然相反。我们怎么到了AI公司说服投资者和市场相信它们将构建未来，却同时警告我们它们将终结未来的地步？让我们专注于加强AI的民主治理。我们不能等待另一份警告灾难的事件报告。纵火犯当不了好消防员。