Anthropic telah memberikan akses "seperti karyawan" kepada pengawas AI eksternal METR ke alat dan sistem internalnya, memperlakukan kelompok tersebut sebagai tim penilaian risiko. Hal ini memungkinkan METR meninjau praktik keamanan dan log internal tanpa persetujuan Anthropic untuk menerbitkan temuan. Perkiraan ini dilakukan saat Anthropic menghadapi tekanan untuk meyakinkan investor mengenai isu keamanan sebelum penawaran saham perdana (IPO) yang diperkirakan akan terjadi tahun ini dengan valuasi yang melebihi 2 triliun dolar.
Anthropic menyatakan bahwa jika ambisi risiko sebuah bank mengancam publik, pihak ketiga harus dapat melihatnya sebelumnya. Karyawan METR telah di-onboard dengan perangkat keras dan ruang kantor perusahaan, dan mereka didorong untuk berbagi informasi seperti yang mereka lakukan dengan rekan sekerja. Penting untuk dicatat bahwa Anthropic tidak membayar METR untuk pengaturan ini, yang menurut kelompok penelitian siap diperluas ke semua pengembang AI frontier.
Meskipun Anthropic tidak dapat menveto publikasi analisis METR, ia dapat mengharuskan penghapusan data pelanggan, detail yang dilindungi hak istimewa attorney-client, atau informasi arsitektur model. Selain itu, Anthropic sedang bekerja sama dengan Accenture dan Secure Bio untuk menstandarkan perlindungan baru terhadap risiko kimia, biologi, dan risiko AI secara keseluruhan.
Sumber: Ars Technica · Diringkas oleh HeadlinesBriefing