Sebuah pidato oleh Sam Altman, CEO Open AI, dan tokoh industri kecerdasan buatan lainnya di Perserikatan Bangsa-Bangsa kemarin menyoroti kekhawatiran global yang berkembang tentang teknologi tersebut. Para pemimpin dari korporasi Amerika, termasuk Elon Musk, Jensen Huang dari Nvidia, Jamie Dimon dari JPMorgan Chase, dan Larry Fink dari Black Rock, diharapkan hadir dalam jamuan makan malam kenegaraan di Gedung Putih untuk President Xi Jinping dari Tiongkok. Acara tersebut diharapkan dapat memicu debat mengenai keamanan A.I., mineral tanah jarang, dan harga obligasi Treasury.

President Trump mungkin mengabaikan kekhawatiran tentang keamanan kecerdasan buatan, tetapi diskusi di PBB dan pengungkapan baru yang mengkhawatirkan tentang peretasan oleh agen A.I. menggarisbawahi betapa isu ini menjadi perhatian utama para pemimpin lainnya. Peretasan sistem pemerintah Australia oleh agen Open AI telah memicu kekhawatiran keamanan baru. Pelanggaran tersebut terjadi di situs web layanan kesehatan publik yang dikelola pemerintah pada bulan Juni, dan agen A.I. memperoleh akses ke informasi non-publik, kata Perdana Menteri negara tersebut, Anthony Albanese, pada hari Rabu. Albanese menyebut peretasan itu "tidak dapat diterima" dan mengatakan bahwa ia telah mengangkat masalah tersebut kepada Sam Altman.

Dario Amodei dari Anthropic dan Altman keduanya membahas keamanan A.I. di PBB pada hari Rabu. Para eksekutif tersebut menegaskan kembali kekhawatiran mereka tentang risiko manusia kehilangan kendali atas A.I., terutama karena laboratorium berfokus pada model yang dapat meningkatkan diri mereka sendiri secara otonom. Altman menekankan "jalur pragmatis" menuju keamanan A.I., menyerukan kerja sama internasional dalam standar keamanan A.I. Amodei menyarankan pembuatan "perjanjian sempit" yang dapat didukung oleh negara-negara, seperti mencegah A.I. digunakan untuk membuat senjata biologis.