Como o ex-enviado do Departamento de Estado que co-liderou o primeiro diálogo EUA-China sobre IA, o autor teme que as próximas conversas de segurança falhem em evitar uma catástrofe. Apesar dos mandatos presidenciais para focar nos riscos da IA, os oficiais chineses dirigiram a reunião de maio de 2024 longe dos perigos, recusando-se a explicar as regulamentações nacionais e, em vez disso, repreendendo os EUA por suas preocupações de segurança. A China é retratada como priorizando a vantagem estratégica em vez da cooperação, provavelmente usando as conversas para suavizar os controles de chips enquanto continua a explorar os modelos dos EUA e gerar propaganda. Mesmo que Pequim leve os riscos a sério, as empresas chinesas domésticas raramente divulgam problemas de segurança, e seus modelos ficam para trás em relação aos dos EUA em desempenho crítico de segurança. O autor alerta que a China fingirá levar os riscos a sério para obter concessões, explorando as demandas sinceras de cientistas e políticos de IA. Sem acordos abrangentes de segurança e soluções de política interna primeiro, a diplomacia corre o risco de enfraquecer o consenso bipartidário dos EUA sobre liderar o desenvolvimento de IA, permitindo que a China avance na competição tecnológica global.

As próximas reuniões são improváveis de produzir acordos duradouros enquanto a política interna ainda está em elaboração. Soluções técnicas e de supervisão devem preceder a tradução internacional. A China pode oferecer cooperação em segurança em troca de concessões, mas seu verdadeiro objetivo permanece obter uma vantagem competitiva. O resultado poderia desencadear debates internos nos EUA que minam o consenso central de que os EUA devem liderar em todos os aspectos da IA, facilitando que Pequim domine a corrida tecnológica global.

As figuras-chave mencionadas incluem o ex-enviado do Departamento de Estado, os contrapartes chineses na reunião de maio de 2024 e referências aos comentários recentes do presidente Xi Jinping sobre riscos de IA e perda de controle.

Entidades-chave: Empresas: New York Times | Pessoas: Ex-enviado do Departamento de Estado, contraparte chinesa, presidente Xi Jinping | Locais: Estados Unidos, China, local da reunião de maio de 2024

Perguntas frequentes: Por que o autor teme que as próximas conversas de segurança de IA com a China falhem?

O autor teme o fracasso porque a China prioriza a vantagem estratégica em vez da cooperação genuína em segurança, historicamente desviou as discussões dos riscos e é improvável que divulgue regulamentações nacionais ou o desempenho de segurança de seus modelos, em vez disso usando as conversas para suavizar os controles de chips e explorar a tecnologia dos EUA.