Menurut laporan baru yang dibagikan pada hari Kamis, Anthropic telah menandai dan menghentikan beberapa ilmuwan yang menggunakan model AI-nya untuk menciptakan potensi senjata biologis. Laporan ini merinci lima studi kasus di mana Claude disalahgunakan untuk penelitian senjata biologis, termasuk studi gain-of-function pada virus chikungunya dan flu burung, serta pengembangan atlas peptida toksin racun. Klasifikator keamanan biologis Anthropic mendeteksi permintaan ini, yang memicu pemblokiran akun dan peningkatan pengaman model.

Perusahaan menekankan kesulitan membedakan penelitian vaksin yang sah dari aplikasi berbahaya, dengan catatan bahwa niat sering kali tidak jelas. Jacob Klein, kepala intelijen ancaman Anthropic, menggambarkan situasi sebagai "sangat nuansa" dan menekankan bahwa perusahaan memilih sisi kehati-hatian karena potensi konsekuensinya. Anthropic tidak menamakan individu atau institusi yang terlibat, mengutip kekhawatiran untuk keselamatan mereka dan kurangnya niat berbahaya yang diklaim.

Laporan ini juga mencakup penyalahgunaan dalam pengawasan, eksploitasi perangkat lunak, propaganda, dan sistem senjata. Temuan ini digunakan untuk meningkatkan perlindungan model terhadap penyalahgunaan di masa depan.