How China and the US can work together on AI security

US Treasury secretary Scott Bessent and China’s vice-premier He Lifeng agreed last weekend to establish a formal US-China dialogue on AI. The US has proposed a mutual notification mechanism about serious AI incidents, reminiscent of the Cold War nuclear hotline. These steps aim to apply guardrails to the AI race between Washington and Beijing.

Despite tensions—Trump dismissing AI risks as a 'hoax' and Beijing viewing US safety talks as containment—shared vulnerabilities exist. Both face risks of AI falling into non-state actor hands, enabling bioweapon development or cyberattacks on critical infrastructure. Agreeing on access controls, model testing, and containment could reduce dangers.

The speed of AI-driven incidents risks escalatory retaliation, making a US-style AI 'hotline' sensible for Xi to endorse. Clear rules are also needed for AI in weaponry, building on Xi’s 2024 agreement with Biden that humans must retain nuclear control. Experts since 2019 have recommended red lines: banning autonomous nuclear launch decisions, requiring human authorization for AI-driven cyberattacks on nuclear networks, and defining 'meaningful human control.' The goal is to establish safeguards before a near-miss or catastrophe from rapidly advancing AI.

El secretario del Tesoro de EE. UU., Scott Bessent, y el viceprimer ministro de China, He Lifeng, acordaron el pasado fin de semana establecer un diálogo formal entre EE. UU. y China sobre inteligencia artificial.

EE. UU. ha propuesto un mecanismo de notificación mutua sobre incidentes graves de IA, similar a la línea telefónica nuclear de la Guerra Fría. Estos pasos buscan aplicar salvaguardias a la carrera de IA entre Washington y Beijing.

A pesar de las tensiones —Trump descarta los riesgos de IA como una ‘estafa’ y Beijing ve las conversaciones de seguridad de EE. UU. como contención— existen vulnerabilidades compartidas. Ambos enfrentan riesgos de que la IA caiga en manos de actores no estatales, permitiendo el desarrollo de armas biológicas o ciberataques a infraestructuras críticas.

Acordar controles de acceso, pruebas de modelos y contención podría reducir los peligros. La rapidez de los incidentes impulsados por IA riesga una retaliación escalatoria, haciendo que una ‘línea caliente’ de IA estilo EE. UU. sea sensata para que Xi la aprueben.

También se necesitan reglas claras para la IA en armas, construyendo sobre el acuerdo de Xi con Biden en 2024 de que los humanos deben conservar el control nuclear. Expertos desde 2019 han recomendado líneas rojas: prohibir decisiones autónomas de lanzamiento nuclear, requerir autorización humana para ciberataques impulsados por IA contra redes nucleares, y definir ‘control humano significativo’. El objetivo es establecer salvaguardias antes de un casi accidente o catástrofe por la IA en rápida evolución.

美国财政部长斯科特·贝森特与中国副总理何立峰上周末同意建立正式的中美人工智能对话机制。美国已提议设立关于严重AI事件的相互通报机制，类似于冷战时期的核热线。这些步骤旨在为华盛顿与北京之间的人工智能竞赛设置护栏。尽管存在紧张关系——特朗普将AI风险斥为‘骗局’，而北京将美国的安全谈判视为遏制——但双方仍面临共同的脆弱性。两国都面临AI落入非国家行为体手中、从而促成生物武器开发或对关键基础设施发动网络攻击的风险。就访问控制、模型测试和遏制达成一致可能降低危险。AI驱动事件的快速升级风险可能引发报复性回应，因此对习近平来说，支持类似美国的AI‘热线’是合理的。武器中使用AI也需要明确规则，这可以建立在习近平2024年与拜登达成的协议基础上，即人类必须保留对核控制权。自2019年以来，专家们建议了红线：禁止自主核发射决策、要求对AI驱动的针对核网络的网络攻击进行人类授权，并定义‘有意义的人类控制’。目标是在快速发展的AI引发险些事故或灾难之前建立保障措施。