人工智能会引发金融危机吗？在New York举行的UN General Assembly期间，这一问题始终萦绕在人们心头。尽管一些投资者担心AI股票泡沫或数据中心债务违约，但许多UNGA与会者提出了另一个问题：心怀恶意的人类是否会利用AI对金融市场发动毁灭性的网络攻击？Bill Gates表示，AI“迄今”是曾经创造出的最危险技术，并希望各国政府和科技公司安装监控系统。China-US“热线”只是迈出了一小步，但仍需采取多得多的行动。

在公众视野之外，监管机构正在讨论如何应对AI带来的金融风险，包括监管机构自身使用智能体AI系统。在Cambridge举行的一场数字监管会议上——由Agustín Carstens和Ashley Alder共同召集——近300 teams参加了首届全球“Agentic Regulator”黑客松。会议得出了三点启示。监管机构不能等待政治人物采取行动，因为AI的发展速度快于立法机构。他们必须创造性地运用现有权力。

监管机构还需要重新思考“可解释性”。由于透明度难以强制执行，许多人正转向追踪AI模型的结果，安装紧急停止开关等护栏，并明确法律责任。在America，Scott Bessent已召集银行家讨论Anthropic’s Claude Mythos AI model及网络漏洞。Bank of England将把云公司作为“关键第三方”进行监管，而BIS则开展创新实验。打破监管孤岛已刻不容缓。

关键实体：公司：Microsoft、Gates Foundation、Bank for International Settlements、Financial Conduct Authority、Anthropic、Bank of England、BIS | 人物：Gillian Tett、Bill Gates、Agustín Carstens、Ashley Alder、Scott Bessent | 地点：New York、UN General Assembly、UNGA、China、US、Cambridge、America、UK