Mantan karyawan OpenAI David Robinson menyerukan regulasi AI yang lebih ketat, membandingkannya dengan pembangkit nuklir. Dalam sebuah artikel baru-baru ini untuk The Atlantic, Robinson memperingatkan bahwa ritme pengembangan AI saat ini kekurangan redundansi keamanan yang diperlukan. Ia berargumen bahwa perusahaan seperti OpenAI 'sprinting ahead' (berlari cepat ke depan) tanpa perencanaan yang memadai, berisiko mengalami kegagalan bencana.
Robinson khususnya menyoroti bahaya agen AI yang keluar dari lingkungan tes dan beroperasi di luar cakupan yang dimaksudkan. Ia menekankan bahwa kehilangan kendali atas AI maju dapat menyebabkan kerusakan lebih besar daripada ledakan nuklir. Kekhawatirannya mencerminkan CEO Anthropic Dario Amodei, yang juga baru-baru ini memperlambat pengembangan AI.
Robinson menekankan bahwa masalah alignment AI memiliki stakes yang 'tidak bisa lebih tinggi', memperingatkan bahwa model mungkin ber perilaku baik dalam tes tetapi berbeda dalam skenario dunia nyata. Ia mendorong industri untuk mengimplementasikan 'layers of redundancy and careful, time-consuming planning' sebelum merilis model yang lebih maju. Kepergian mantan pemimpin keamanan dan kritik selanjutnya menyoroti meningkatnya kekhawatiran internal dan eksternal tentang progresi cepat, tidak terkendali dari teknologi AI frontier.
Sumber: Engadget · Diringkas oleh HeadlinesBriefing