Yah Dario, Anda telah menerbitkan hari ini 'Kita Harus Menjaga Kecepatan Frontier' yang mengikat Anthropic untuk menyematkan evaluator pihak ketiga dan meminta pemerintah untuk mengharuskan setiap perusahaan frontier lainnya melakukan hal yang sama. Sam Altman setuju dalam beberapa jam. Saya percaya Anda jujur, maka saya meminta Anda untuk mengajukan undang-undang yang berbeda, satu yang sebenarnya akan memperlambat hal-hal, meskipun itu akan membutuhkan pengorbanan nyata dari pihak Anda.

Setiap model AI yang ditawarkan oleh suatu perusahaan kepada publik harus dirilis sebagai bobot terbuka. Ini tidak akan mencakup setiap model yang Anda latih, hanya model-model yang Anda sediakan untuk publik. Model internal dan penelitian tidak akan terpengaruh, dan pemerintah masih bisa mengakses model-model yang belum dirilis.

Namun, Anthropic harus merilis bobot Fable pada hari peluncurannya, Open AI harus melakukan hal yang sama dengan Astra, dan begitu juga semua orang lain. Seperti yang Anda ketahui, pendanaan untuk pengembangan model frontier bergantung pada perkiraan yang mengasumsikan bahwa bobot akan tetap bersifat proprietary. Dengan mengubah asumsi ini, kita dapat mengurangi uang yang tersedia untuk pelatihan di masa depan dan memperlambat progresi di setiap laboratorium sekaligus, tanpa bahwa seorang regulator pun harus membuat keputusan.

Setiap regulasi yang Anda minta akan berakhir dalam captur. Tidak ada regulasi yang bisa memperlambat model frontier tanpa mengarah ke captur regulasi. Evaluator yang tertanam, ambang komputasi, koordinasi industri dengan pengecualian antitrust.

Semua ini ditulis dengan bantuan laboratorium frontier saat ini, karena tidak ada orang lain yang memahami detail teknis dengan cukup baik untuk menuliskannya. Setelah menjadi undang-undang, ini hanya akan menjadi lebih kompleks, karena setiap insiden menambahkan aturan dan tidak ada aturan yang pernah dihapus. Perusahaan besar mampu menanggung biaya tim kepatuhan dan pengacara untuk mengikuti perkembangan, dan setiap persyaratan baru membuatnya lebih siapa pun untuk mengejar mereka.

Alih-alih memperlambat Anda, hal ini justru melindungi posisi dan keuntungan Anda. Mengapa saya meminta ini kepada Anda? Anda terlihat sebagai orang baik dan berprinsip, dan Anda memiliki riwayat mengorbankan sesuatu untuk apa yang Anda percaya. Anda meninggalkan Open AI untuk membangun sebuah perusahaan dengan keamanan yang tertanam sejak awal, ketika langkah karier yang aman adalah untuk tinggal.

Anda telah bertahun-tahun mem advocating untuk regulasi di industri Anda sendiri dan disebut sebagai doomer dan captur regulasi karena itu. Anda mendukung kontrol ekspor yang menyempitkan pasar Anda sendiri. Anthropic membayar $1,5 miliar untuk menyelesaikan dengan penulis alih-alih bertaruh sampai akhir.

Dan hari ini Anda telah berkomitmen untuk memperlambat sebelum orang lain melakukannya. Anda juga memiliki jauh pandangan untuk membuat Anthropic menjadi Perseroan Manfaat Publik (PBC), sehingga Anda dapat secara hukum menempatkan misi di tempat pertama: pengembangan dan pemeliharaan AI canggih yang bertanggung jawab untuk manfaat jangka panjang bagi umat manusia. Ini adalah tepat jenis keputusan misi atas keuntungan jangka pendek yang struktur PBC ada untuknya.

Anda masih merupakan satu-satunya orang yang bisa mengusulkan undang-undang seperti ini dan diambil serius, dan orang yang paling mungkin untuk benar-benar melakukannya. Jika Anda benar-benar ingin memperlambat pengembangan AI frontier, doronglah undang-undang yang mewajibkan setiap model AI yang tersedia secara publik untuk merilis bobotnya secara terbuka. Tidak ada sesuatu di dalamnya yang bisa dimanfaatkan atau dielakari, bahkan untuk Anda sendiri.