Как бывший посланник Государственного департамента, который совместно руководил первым диалогом США-Китай по ИИ, автор опасается, что предстоящие переговоры по безопасности не предотвратят катастрофу. Несмотря на президентские директивы, направленные на фокусировку на рисках ИИ, китайские官员 направили встречу в мае 2024 года в сторону от опасностей, отказавшись объяснять внутренние правила и вместо этого упрекая США в озабоченности по поводу безопасности. Китай изображается как придающий приоритет стратегическому преимуществу перед сотрудничеством, вероятно, используя переговоры для ослабления контроля над чипами, продолжая при этом эксплуатировать модели США и генерировать пропаганду. Даже если Пекин серьезно относится к рискам, внутренние китайские компании редко раскрывают проблемы безопасности, и их модели отстают от американских аналогов в критической производительности безопасности. Автор предупреждает, что Китай будет притворяться, что серьезно относится к рискам, чтобы получить уступки, используя искренние требования ученых и политиков в области ИИ. Без комплексных соглашений по безопасности и внутренних политических решений сначала дипломатия рискует ослабить двухпартийный консенсус США по ведению разработки ИИ, позволяя Китаю вырваться вперед в глобальной технологической конкуренции.

Предстоящие встречи маловероятно приведут к долговременным соглашениям, пока внутренняя политика находится в стадии разработки. Технические и надзорные решения должны предшествовать международному переводу. Китай может предложить сотрудничество в области безопасности в обмен на уступки, но его истинная цель остается получением конкурентного преимущества. Результат может вызвать внутренние дебаты в США, подрывающие основной консенсус о том, что США должны лидировать во всех аспектах ИИ, что облегчит Пекину доминирование в глобальной технологической гонке.

Ключевые фигуры, упомянутые в тексте, включают бывшего посланника Государственного департамента, китайских собеседников на встрече в мае 2024 года и ссылки на недавние комментарии президента Си Цзиньпина о рисках ИИ и потере контроля.

Ключевые сущности: Компании: New York Times | Люди: Бывший посланник Государственного департамента, китайский собеседник, президент Си Цзиньпин | Местоположения: Соединенные Штаты, Китай, место встречи в мае 2024 года

Часто задаваемые вопросы: Почему автор опасается, что предстоящие переговоры по безопасности ИИ с Китаем потерпят неудачу?

Автор опасается неудачи потому, что Китай придает приоритет стратегическому преимуществу перед настоящим сотрудничеством в области безопасности, исторически отводил обсуждения от рисков и маловероятно, что раскроет внутренние правила или производительность безопасности своих моделей, вместо этого используя переговоры для ослабления контроля над чипами и эксплуатации технологий США.