Sebagai utusan lama Departemen Negara yang bersama-sama memimpin dialog pertama AS-China tentang AI, penulis khawatir bahwa percakapan keselamatan yang akan datang tidak akan mencegah bencana. Meski ada mandat presiden untuk fokus pada risiko AI, pejabat Cina mengalihkan pertemuan Mei 2024 dari bahaya, menolak menjelaskan regulasi domestik, dan justru menyalahkan AS karena kekhawatirannya tentang keamanan. Cina digambarkan sebagai memprioritaskan keuntungan strategis atas kerjasama, kemungkinan besar menggunakan percakapan untuk melonggorkan kendali chip sambil terus mengeksploitasi model AS dan menghasilkan propaganda. Bahkan jika Peking mengambil risiko secara serius, perusahaan domestik Cina jarang mengungkapkan masalah keamanan, dan model mereka ketinggalan dalam performa keamanan kritis dibandingkan counterparts AS. Penulis memperingatkan bahwa Cina akan berpura-pura mengambil risiko secara serius untuk mendapatkan konsesi, memanfaatkan tuntutan tulus dari ilmuwan dan politisi AI. Tanpa persetujuan keselamatan komprehensif dan solusi kebijakan domestik terlebih dahulu, diplomasi berisiko melemahkan konsensus bipartisan AS tentang memimpin pengembangan AI, memungkinkan Cina untuk maju dalam kompetisi teknologi global.

Percakapan yang akan datang tidak mungkin menghasilkan perjanjian yang tahan lama sementara kebijakan domestik masih dalam proses pembentukan. Solusi teknis dan pengawasan harus datang sebelum terjemahan internasional. Cina mungkin menawarkan kerjasama keselamatan sebagai tawaran untuk mendapatkan konsesi, tetapi tujuan sejatinya tetap mendapatkan keunggulan kompetitif. Hasilnya mungkin memicu perdebatan internal di AS yang mengurangi konsensi inti bahwa AS harus memimpin di semua aspek AI, sehingga lebih mudah bagi Peking untuk mendominasi balapan teknologi global.

Tokoh kunci yang disebutkan meliputi utusan lama Departemen Negara, mitra Cina dalam pertemuan Mei 2024, dan referensi terhadap komentar terbaru Presiden Xi Jinping mengenai risiko AI dan kehilangan kontrol.

Entitas kunci: Perusahaan: New York Times | Orang: Utusan lama Departemen Negara, mitra Cina, Presiden Xi Jinping | Lokasi: Amerika Serikat, Cina, tempat pertemuan Mei 2024