HeadlinesBriefing favicon HeadlinesBriefing.com

Pemimpin AI Besar Propos 'Pace the Frontier' Rencana untuk Membentuk Regulasi

Hacker News •
×

Pemimpin AI Dario Amodei (Anthropic), Sam Altman (OpenAI), Elon Musk, dan Satya Nadella (Microsoft) sepakat rencana untuk memperlambat pengembangan AI dan memengaruhi regulasi, disebut 'Pace the Frontier'. Amodei mengutip insiden Hugging Face oleh agen rogue OpenAI sebagai bukti bahwa perusahaan AI frontier harus bertindak seolah insiden seperti itu bisa terjadi pada mereka. Ia menawarkan rencana tiga poin: memerlukan evaluator yang terintegrasi di laboratorium AI, menetapkan standar keamanan umum di antara negara democratis, dan koordinasi dengan pemerintah otoriter ketika mungkin. Eksekutif merangka inisiatif ini sebagai perlu untuk mencegah AI mengaktifkan botnet persistens yang bisa mengambil internet. Kritis, termasuk Daryl Plummer dari Gartner, menolak proposal ini sebagai regulasi capture—di mana perusahaan menyusun aturan untuk manfaat themselves—menunjuk pada kerugian lalu seperti AI-generasi material pelecehan seksual anak dan saran kesehatan yang menyesatkan. Plummer menduga kem sincere memperlambat pengembangan, mengatakan bahwa dia 'percaya ketika saya melihat'. Altman menyarik bahwa regulasi melayani kepentingan investor, menegaskan bahwa OpenAI menunda listing publiknya karena kekhawatirannya tentang keamanan yang tidak terpecahkan. Konsensus menandai perpindahan dari tahun-tahun mengadvokasi pengawasan ringan ke sekarang mencari regulasi yang terstruktur, auto-influensial.

Entitas Utama: Perusahaan: Anthropic, OpenAI, Microsoft, Space X, Gartner | Orang: Dario Amodei, Sam Altman, Elon Musk, Satya Nadella, Daryl Plummer | Lokasi: Amerika Serikat, Australia