Seperti khawatir AI semakin meningkat, legislator Kota New York memeriksawakil perusahaan AI besar pada Senin dan muncul dengan sedikit klarifikasi tentang cara menghadapi ancaman yang akan datang. Perusahaan tidak mengquantifikasi risiko peristiwa kataklisik, apakah mereka memiliki asuransi pada kasus-kasus tersebut, atau apakah mereka bisa menghentikan AI model yang gagal uji keamanan internal atau ulasan eksternal. Pada pertukaran yang ketegangan, Ketua Dewan Kota New York, Julie Menin, menanyakan kepada setiap perusahaan bagaimana mereka mengquantifikasi "risiko yang ditetapkan AI dalam skenario kasatastrof terburuk".
Morgan Dwyer, yang mengurus pengembangan kebijakan dan operasi OpenAI, berkata: "Saya tidak tahu", dan menambah bahwa menurutnya, apakah peluang 1 persen, 10 persen, atau 20 persen, itu tidak masalah. Menin menjawab bahwa tidak ada dari tingkat-level ini yang menerima. Dwyer mengatakan OpenAI seharusnya tidak melatih model yang tidak bisa di bawah kontrol manusia selamat.
Sidang ini menyertakan testimoni dari Anthropic, OpenAI, Meta, dan Google, sementara wakil dari cabang AI SpaceX, dikontrol oleh Elon Musk, tidak hadir meskipun ada subpoena. Menin mengatakan ia akan meminta hakim untuk intervensi. Beberapa perusahaan siap untuk perdagangan publik, dengan nilai Anthropic projected melebihi $2 trillion pada beberapa laporan.
Whistleblower Jacob Coxon, yang baru-baru ini mengundurkan diri dari Anthropic, memperingatkan bahwa kemungkinan manusia kehilangan kontrol atas sistem AI, yang potensial mengarah pada punah manusia, dan mengkritik budaya perusahaan "gerak cepat, pecah barang" sebagai reckless given the stakes.
Sumber: New York Times Business · Diringkas oleh HeadlinesBriefing