随着对人工智能的担忧日益增加，纽约市立法者周一审问了主要AI公司的代表——然而他们出来时对计划如何应对迫在眉睫的威胁几乎没有任何明确性。这些公司没有量化灾难性事件的风险，也没有说明在这样的情况下是否购买了保险，或者他们是否能停止一个在内部安全测试或外部审查中失败的AI模型。在一次紧张的交流中，纽约市议会议长朱莉·梅宁询问每家公司如何量化"AI在最坏情况下的灾难性情景下所带来的风险"。负责OpenAI政策开发和运营的Morgan Dwyer说："我不知道"，并补充道，无论概率是1%、10%还是20%，这都不重要。梅宁回复说，这些概率水平都不接受。Dwyer表示，OpenAI不应训维无法在人类控制下安全保存的模型。听证会包括Anthropic、OpenAI、Meta和Google的证词，而由埃隆·马斯克控制的AI部门SpaceX的代表尽管收到了传票却未出席。梅宁表示她将请求法官介入。一些公司正准备公开交易，据报道Anthropic的价值在某些报告中超过2万亿美元。最近辞职的Anthropic举报人Jacob Coxon警告称，人类可能会失去对AI系统的控制，从而导致人类灭绝，并批评公司"快速前进，粗破事物"的文化在 stakes（ stakes 原文为 stakes，此处指 stakes/风险）如此之高的情况下鲁莽可耻。
来源: New York Times Business · 由HeadlinesBriefing整理摘要