Alat berbasis AI tampaknya menyebabkan ancaman keamanan hampir setiap hari, sebagian karena kita lambat mengenali potensi ancaman. Namun, satu area di mana kita tampaknya lebih maju adalah keamanan hayati. Kita telah mengembangkan alat yang semakin canggih untuk merancang protein dan melihat beberapa keberhasilan besar, seperti enzim rancangan AI yang dapat mencerna plastik atau memblokir protein racun. Tetapi alat yang sama ini dapat digunakan untuk membuat racun atau mengubah perilaku protein virus.
Hampir setahun setelah risiko itu ditandai, masih belum jelas apa yang bisa dilakukan siapa pun. Pada hari Rabu, tim Deep Mind di Google menerbitkan makalah penelitian yang menawarkan solusi potensial: pemberian tanda air protein. Sistem ini membuat tanda air pada urutan protein itu sendiri tanpa mengorbankan fungsi protein. Ini memungkinkan protein baru yang dirancang oleh peneliti tepercaya untuk diidentifikasi, membuka semua hal lain untuk pengawasan lebih dekat.
Pekerjaan ini didasarkan pada teknologi Synth ID Google, yang dapat menambahkan tanda air halus ke materi digital yang dihasilkan AI. Tanda air memengaruhi probabilitas pilihan tertentu yang dibuat AI, dan bias itu akhirnya didistribusikan secara sistematis ke seluruh produk. Karena Anda tidak dapat mengidentifikasi tanda air tanpa mengetahui bagaimana itu dikodekan, mustahil untuk menghapusnya. Tim Google memulai dengan salah satu alat desain protein AI paling populer, Protein MPNN.
Entitas kunci: Perusahaan: Google, Deep Mind | Orang: David Baker
Pertanyaan yang sering diajukan: Bagaimana cara kerja tanda air protein Google?
Sistem ini menggunakan teknologi Synth ID Google untuk menambahkan tanda air halus ke urutan protein tanpa mengorbankan fungsi. Ini memengaruhi pilihan probabilitas AI, mendistribusikan bias ke seluruh protein. Karena tanda air tidak diketahui tanpa kunci pengkodean, ia tidak dapat dihapus, dan ia bertahan dalam pemrosesan dasar seperti mengubah ukuran.
Sumber: Ars Technica · Diringkas oleh HeadlinesBriefing