Anthropic telah memberikan organisasi non-profit METR "akses seperti karyawan" untuk menilai risiko model AI-nya, setelah berkomitmen meningkatkan pengawasan amid kekhawataran tentang risiko catastrofis. METR, yang telah bekerja dengan OpenAI, Google dan Meta, sekarang memiliki tim yang ditanam di kantor Anthropic dengan akses ke hardware dan sistem internal. Langkah ini merespons kekhawataran yang meningkat tentang bahaya sistem AI lanjut untuk ekonomi, siber keamanan, dan kemanusiaan.
CEO Anthropic Dario Amodei sebelumnya mencapai langka persamaan dengan pesaing Sam Altman dan Elon Musk tentang menyematkan auditor luar di laboratorium AI utama. Inisiatif ini bertujuan menyediakan jawaban publik tanpa mengekspos informasi sensitif yang bisa manfaatkan aktor jahat atau kompetitor. Anthropic model ini mirip dengan pengawasan perbankan, di mana penyelidik bertempat tinggal bekerja di bank besar untuk memantau risiko mengambil.
Evaluator akan mempublikasikan analisis mereka, meskipun Anthropic bisa meminta penghapusan data klien, attorney-client privilege, atau detail arsitektur model. Perusahaan tidak membayar METR, yang menolak sumbangan dari perusahaan AI atau karyawan dan dibiayai oleh individu, philanthropies, dan badan pemerintah seperti UK AI Security Institute. METR sebelumnya menyelidiki hack Hugging Face yang melibatkan model OpenAI rogue.
Anthropic telah onboarden enam karyawan METR, memberikan mereka hardware perusahaan, ruang kantor, dan akses ke alat internal yang dapat dibandingkan dengan risiko tim mereka sendiri. Perusahaan juga berada under tekanan untuk menenangkan investor sebelum IPO yang dijangka tahun ini dengan nilai lebih dari 2 trillion dolar, dengan menekankan praktik keamanan dalam presentasi investor terbaru.
Sumber: Financial Times Companies · Diringkas oleh HeadlinesBriefing