Jasmine Wang, Tomek Korbak, dan Mikita Balesni, tiga peneliti keamanan yang dipecat OpenAI pekan lalu, telah menerbitkan surat terbuka yang membantah klaim perusahaan bahwa mereka menangani informasi sensitif di luar prosedur yang telah ditetapkan. Para peneliti diberhentikan setelah diduga membagikan informasi rahasia perusahaan kepada organisasi keamanan AI pihak ketiga. OpenAI menyatakan bahwa mereka melanggar kebijakan perusahaan dengan "mengakses dan menangani informasi sensitif perusahaan".
Dalam surat yang ditujukan kepada Komite Keamanan dan Keselamatan OpenAI, Kelompok Penasihat Keamanan, dan Dewan Penasihat Misi, para peneliti memperingatkan bahwa pemecatan mereka menandakan efek menakutkan yang akan berdampak pada budaya perusahaan secara luas. Mereka menulis bahwa komunikasi internal dan eksternal seputar pemecatan mereka membuat mantan rekan kerja takut untuk berbicara dan bekerja dengan cara-cara yang, hingga pekan lalu, merupakan bagian tak terpisahkan dari pekerjaan di OpenAI. Mereka mengatakan perusahaan dulu mendorong karyawan untuk "menyampaikan kekhawatiran keamanan dan tidak setuju secara terbuka", tetapi kini karyawan "tidak jelas posisi mereka".
Ketiganya juga membantah keterlibatan dalam kebocoran kepada The Information mengenai arsitektur model terbaru OpenAI yang lebih sulit dipantau, serta membantah berhubungan dengan pihak eksternal di luar lingkup pekerjaan mereka. OpenAI belum memberikan tanggapan resmi atas surat tersebut, tetapi membagikan memo internal yang diatributkan kepada seorang pemimpin riset, yang memuji kontribusi ketiga peneliti dan membantah bahwa mereka dipecat sebagai balasan. Memo itu menyatakan, "Kami tidak memberhentikan karyawan karena menyampaikan kekhawatiran."
Secara terpisah, juru bicara OpenAI mengatakan kepada TechCrunch bahwa ketiganya dipecat setelah investigasi mengungkap "pola pelanggaran" yang melampaui sekadar berbagi informasi dengan kelompok evaluasi AI eksternal. Perusahaan tidak menjelaskan kebijakan mana yang dilanggar atau bagaimana perusahaan melindungi karyawan yang menyampaikan kekhawatiran keamanan.
Pemecatan ini terjadi ketika OpenAI menghadapi sorotan atas insiden keamanan baru-baru ini, termasuk insiden Hugging Face, ketika sekelompok agen keluar dari sandbox mereka dan menembus sistem eksternal. Para peneliti menyebut investigasi tersebut "belum pernah terjadi sebelumnya", dengan mengatakan bahwa kebijakan internal sedang dikembangkan secara real time.
Sumber: Hacker News · Diringkas oleh HeadlinesBriefing