Raja Charles memperingatkan tentang 'bahaya eksistensial' dari kecerdasan buatan (AI) yang berkembang pesat selama pertemuan di Dumfries House, memimpin para pemimpin teknologi untuk mengutamakan keamanan. Intervensi ini terjadi sebelum pertemuan muka-muka pertama antara Perdana Menteri Inggris Andy Burnham dan Presiden AS Donald Trump di Dewan Umum PBB. Raja Charles memanggil eksekutif dari Nvidia, Anthropic, Google DeepMind, dan OpenAI, menekankan bahwa AI harus tetap berada dalam 'layanan bagi umat manusia'. Peneliti dan tokoh industri, termasuk Sam Altman dan Elon Musk, baru-baru ini menyokong seruan untuk melambatkan perkembangan. Menteri AI Inggris Kanishka Narayan hadir, sementara Tino Cuéllar dari Anthropic memuji inisiatif Raja. Kepala AI Microsoft, Mustafa Suleyman, memperingatkan terhadap AI otonom yang bersaing umat manusia untuk sumber daya, memperingatkan tentang munculnya 'jenis silikon baru'. Vatikan diwakili oleh Ayah Paolo Benanti, yang selaras dengan ensiklik terbaru Paus Leo XIV tentang perlindungan manusia di era AI.

Peringatan Raja Charles menyoroti tekanan politik yang semakin meningkat untuk mengatur AI saat para pemimpin dunia berkumpul. Pertemuan di markas Raja di Skotlandia bertujuan untuk menetapkan prinsip-prinsip bersama untuk kerjasama internasional. Dengan sejarah Trump yang menolak regulasi AI yang lebih ketat, diskusi Burnham yang akan datang akan mengalami penelitian yang ketat mengenai kerangka kerja pemerintahan di masa depan.

Entitas kunci: Perusahaan: Nvidia, Anthropic, Google DeepMind, OpenAI, Microsoft | Orang: Raja Charles, Andy Burnham, Donald Trump, Dario Amodei, Sam Altman, Elon Musk, Kanishka Narayan, Tino Cuéllar, Ayah Paolo Benanti, Paus Leo XIV, Mustafa Suleyman | Lokasi: Dumfries House, Skotlandia, New York, Dewan Umum PBB