作为曾共同领导首次美中人工智能对话的前国务院特使，作者担心即将到来的安全谈判将无法防止灾难。尽管总统有指令要求聚焦人工智能风险，但中国官员在2024年5月的会议上将讨论重点从风险转移开来，拒绝解释国内法规，反而指责美国对安全问题的担忧。中国被描述为优先考虑战略优势而非合作，很可能利用谈判来削弱芯片管制，同时继续利用美国模型并生成宣传。即使北京认真对待风险，国内中国公司也很少披露安全问题，其模型在关键安全性能方面落后于美国 counterparts。作者警告称，中国将假装认真对待风险以获取让步，利用来自人工智能科学家和政客的真诚诉求。如果没有先建立全面的安全协议和国内政策解决方案，外交努力可能削弱美国两党在领导人工智能发展方面的共识，使中国在全球技术竞争中得以领先。

即将举行的会议不太可能产生持久协议，因为国内政策仍在制定中。技术和监督解决方案必须先于国际翻译。中国可能以安全合作为诱饵换取让步，但其真正目标仍是获得竞争优势。结果可能引发美国内部辩论，削弱核心共识——即美国必须在所有人工智能领域领先，从而使北京更容易在全球技术竞赛中占据主导地位。

关键人物包括前国务院特使、2024年5月会议中的中国代表，以及对习近平主席最近关于人工智能风险和失控的评论的引用。

关键实体：公司：《纽约时报》 | 人物：前国务院特使、中国代表、习近平主席 | 地点：美国、中国、2024年5月会议场地

常见问题：为什么作者担心即将举行的美中人工智能安全谈判会失败？

作者担心失败是因为中国优先考虑战略优势而非真诚的安全合作，历史上曾将讨论引导 away from 风险，且不太可能披露国内法规或模型安全表现，而是利用谈判来削弱芯片管制并利用美国技术。