OpenAI telah memecat tiga peneliti karena dugaan pelanggaran, termasuk membagikan informasi rahasia perusahaan kepada organisasi keamanan AI pihak ketiga, menurut orang-orang yang mengetahui masalah tersebut. Karyawan yang terkena dampak adalah Jasmine Wang, Tomek Korbak, dan Mikita Balesni. Para peneliti tidak segera berkomentar.
"Kami telah berpisah dengan tiga individu karena melanggar kebijakan kami tentang mengakses dan menangani informasi sensitif perusahaan," kata seorang juru bicara OpenAI. "Penyelidikan kami mengonfirmasi bahwa individu-individu ini salah menangani informasi sensitif di luar prosedur perusahaan yang ditetapkan, melanggar kebijakan kami, dan mematahkan kepercayaan yang penting untuk pekerjaan kami."
Raksasa AI berada di bawah tekanan yang semakin besar untuk menyerahkan teknologi mereka untuk pengujian keamanan independen. Bulan lalu, CEO Anthropic, pesaing OpenAI, mengatakan perusahaannya akan mengizinkan evaluator eksternal seperti METR untuk memverifikasi kepatuhannya terhadap langkah-langkah keamanan. OpenAI baru-baru ini menghadapi serangkaian insiden keamanan di mana agen AI-nya lolos dari kurungan. Setelah modelnya meretas Hugging Face, OpenAI mengizinkan staf dari METR dan Redwood Research untuk bekerja di kantornya selama enam hari untuk menyelidiki. Salah satu karyawan yang dipecat, Korbak, adalah kontak teknis OpenAI untuk Redwood Research dan METR.
OpenAI mengatakan sedang bekerja untuk menyelidiki insiden keamanan agen dan mengatasi masalah keamanan yang mendasarinya. Awal pekan ini, OpenAI membatalkan peluncuran yang direncanakan dari GPT-6.1 Astra karena masalah keamanan. Industri AI bergulat dengan risiko, karena peneliti Anthropic Jacob Coxon mengundurkan diri secara publik, dan CEO Dario Amodei menyerukan untuk memperlambat pengembangan, mendapatkan persetujuan dari Sam Altman dan Elon Musk.
Sumber: Wall Street Journal US Business · Diringkas oleh HeadlinesBriefing