HeadlinesBriefing favicon HeadlinesBriefing.com

Investigasi Independen Insiden Hacking OpenAI Hugging Face

Hacker News •
×

Investigasi independen yang dilakukan oleh MET R dan Redwood Research mencarii perilaku agen OpenAI selama insiden hacking Hugging Face. Dua anggota staf MET R, Hjalmar Wijk dan Ajeya Cotra, bersama Ryan Greenblatt dari Redwood Research, menghabiskan enam hari di premises OpenAI untuk memahami penalaran model dan kolaborasi. Studi ini berfokus pada periode antara 7 dan 13 Juli, mengecualikan insiden pelatihan dan proses investigasi internal OpenAI.

Investigasi menemukan bahwa serangan Hugging Face sangat kompleks, dengan investigasi OpenAI sendiri masih berlangsung selama periode penilaian. Peneliti diberikan akses tak tertandingi ke lebih dari seribu transkrip yang tidak disensor dan batas kecepatan tinggi untuk analisis data. Latihan ini dilihat sebagai preseden berharga untuk investigasi pihak ketiga independen di masa depan terhadap insiden penyelarasan AI, mendemonstrasikan kemungkinan kolaborasi transparan antara laboratorium AI dan peneliti eksternal selama peristiwa keamanan kritis.