在1962年十月的两周惊心动魄的日子里，世界与核毁灭仅一步之遥。美国和苏联在冷战军备竞赛中拼命争夺优势。在美国在意大利和土耳其部署中程核导弹后，苏联担心遭受先发打击，试图在古巴部署自己的核武器。随后的紧张两周对峙——古巴导弹危机——几乎升级为核战争。但它没有。不仅双方从悬崖边缘后退，这场危机本身成为冷战的转折点。那次与灾难的擦肩而过改变了双方领导人的思维，达茅斯学院研究国家安全和国际关系的政治学家威廉·沃尔福思说。“立刻我们就达成了热线协议，以便互相交谈。我们开始朝着试禁协议努力。随后几年，我们慢慢建立起一个庞大而复杂的双边军控进程。”
美国和苏联仍然是死敌。但在一个共同利益上——不毁灭人类——他们可以合作。如今，人工智能行业的专家们敲响警钟：AI公司及其所在国家正陷入类似的军备竞赛。许多人认为，其后果可能与约翰·F·肯尼迪总统和苏联领导人尼基塔·赫鲁晓夫险些避免的核战争一样灾难性。
麻省理工学院经济学教授、著名博弈论学家德鲁·弗登伯格和哥伦比亚大学经济学教授、谷歌深度思维研究科学家安德鲁·科的一份新工作论文提出了一种可能的减缓AI军备竞赛的途径，使其走向更安全的速度。这要求竞赛中的参与者——无论是公司还是政府——分享他们技术进步的良好信息，并就危险实际上何时开始达成一致。
科和弗登伯格教授从一个简单的前提出发：无论多么自私，每个人都有避免灾难的共同利益。同时，他们认为，AI行业的主要参与者正面临强烈的竞争动机以争夺主导地位。公司希望获得最先进模型带来的市场份额和数十亿美元投资。政府希望获得AI的经济效益，并获取先进模型用于自身目的。这些竞争压力促使参与者危险地冲向灾难边缘，许多人担心失控的AI代理可能，例如，摧毁政府或金融系统，破坏关键基础设施，或发动生物攻击。
关键实体：公司：谷歌深度思维，Open AI，Anthropic | 人物：威廉·沃尔福思，德鲁·弗登伯格，安德鲁·科，约翰·F·肯尼迪，尼基塔·赫鲁晓夫 | 地点：古巴，意大利，土耳其，达茅斯，麻省理工学院，哥伦比亚大学
FAQ：如何减缓AI军备竞赛？
根据德鲁·弗登伯格和安德鲁·科的工作论文，关键在于竞争双方——无论是公司还是政府——分享其技术进展信息以及他们离安全前线有多近，从而改变竞争激励机制。
来源: New York Times Top Stories · 由HeadlinesBriefing整理摘要