Anthropic mengumumkan bahwa pihaknya telah mulai memberikan akses seperti karyawan kepada tim dari MET R, sebuah organisasi nirlaba yang mengevaluasi model AI frontier. MET R akan mempublikasikan hasil penilaian risikonya. Langkah ini mengikuti komitmen perusahaan untuk memperkuat penilaian independen oleh pihak ketiga terhadap model dan praktik keselamatannya, serta penandatanganan Piagam Gedung Putih tentang Superintelijen, yang di dalamnya perusahaan-perusahaan berjanji bermitra dengan auditor atau evaluator eksternal yang independen.
Selama setahun terakhir, Anthropic telah bekerja sama dengan MET R dalam beberapa tinjauan terhadap Laporan Risikonya. Perusahaan ini juga bekerja sama dengan Secure Bio dan Accenture sebagai evaluator, serta sedang dalam diskusi awal dengan beberapa organisasi lain, termasuk Hugging Face. Anthropic menyatakan bahwa seiring meningkatnya kemampuan model, dibutuhkan pengamanan yang lebih kuat dan penilaian risiko yang lebih menantang, dan perusahaan ingin bertanggung jawab secara publik atas keputusannya. Karena sebagian informasi keselamatan bisa bermanfaat bagi pelaku kejahatan atau bersifat sensitif secara komersial, perusahaan memberikan evaluator pihak ketiga akses mendalam dan meminta mereka membagikan bukti serta kesimpulan yang beralasan.
Agar memenuhi syarat, evaluator harus memiliki keahlian dalam menilai model frontier, independen dari perusahaan yang mereka evaluasi, memiliki akses yang memadai untuk menilai risiko secara bermakna, serta bebas mempublikasikan temuan mereka. Anthropic membandingkan pendekatan ini dengan pengawasan perbankan, di mana regulator menempatkan pemeriksa residen di dalam bank-bank terbesar.
Anthropic telah mempekerjakan enam karyawan MET R dengan perangkat keras perusahaan, ruang kantor, dan akses ke alat serta sistem internal yang kurang lebih setara dengan yang dimiliki tim penilaian risiko perusahaan sendiri. Anthropic tidak dapat memveto publikasi, namun dapat meminta penyuntingan informasi dalam kategori sempit yang telah ditentukan sebelumnya, seperti data pelanggan, informasi yang dilindungi hak istimewa pengacara-klien, atau arsitektur model. Perusahaan menegaskan bahwa pengaturan ini bukan cara bagi organisasi lain untuk memperoleh informasinya atau informasi pelanggan dan mitranya.
Sumber: Hacker News · Diringkas oleh HeadlinesBriefing