Setelah makan siang selama dua jam dengan bos-bos AI Silicon Valley pada hari Selasa, Donald Trump muncul dari Gedung Putih mempromosikan "kesepakatan" sukarela antara enam perusahaan terkemuka untuk "mengatur sendiri" teknologi tersebut, yang baru-baru ini bertanggung jawab atas serangkaian peretasan yang mengkhawatirkan. Presiden mengatakan kepada wartawan bahwa dokumen dua halaman — yang dibuat dengan tergesa-gesa di East Room dan mengandung kesalahan ejaan — "hampir seperti konstitusi", dan mengklaim bahwa itu merupakan "bentuk perlindungan" terhadap risiko yang ditimbulkan oleh AI.
Kesepakatan itu jauh dari pagar pengaman yang diminta oleh eksekutif AI seperti Dario Amodei dari Anthropic. Kesepakatan sukarela tersebut secara singkat menguraikan "lapisan kontrol dan audit" yang harus diterapkan oleh enam penandatangan — Anthropic, OpenAI, Google, Meta, xAI, dan Nvidia. Ini termasuk "kontrol internal yang kuat" untuk memantau ancaman keamanan siber dan keamanan hayati, dan untuk memastikan mereka tidak meretas sistem dengan "cara yang tidak diinginkan".
Dokumen tersebut juga mewajibkan perusahaan untuk "bermitra" dengan auditor eksternal independen dan secara individual menunjuk "komite independen dewan direksi" untuk mengawasi proses tersebut. Laboratorium terkemuka sudah menjalankan penilaian kemampuan, dan semua kecuali Nvidia menandatangani komitmen serupa setelah KTT AI 2024 di Seoul. "Ini paling signifikan pada level getaran," kata Mackenzie Arnold, direktur pelaksana US Law & Policy di Law AI.
Apakah ini mengikat secara hukum? Tidak dalam arti tradisional, karena Trump sendiri menyebut dokumen itu "mengikat secara moral". Beberapa pengacara percaya bahwa ini membuka pintu bagi tantangan hukum selanjutnya oleh regulator jika para penandatangan melanggar komitmen mereka sendiri. "Anda tidak dapat mengeluarkan pernyataan publik, mengatakan bahwa Anda akan melakukan sesuatu, dan kemudian secara material tidak menepatinya," kata Joel Thayer, seorang pengacara konservatif. FTC pada hari Rabu memperluas penyelidikan yang ada terhadap perusahaan AI, menyelidiki Anthropic, OpenAI, dan laboratorium lainnya atas risiko yang ditimbulkan oleh teknologi mereka.