Kami dengan cepat beralih ke lanskap komputasi yang ditentukan oleh agen yang sangat umum dan semakin otonom. Didorong oleh model bahasa besar (LLM) yang dapat secara dinamis menghasilkan rencana dan memanggil alat eksternal, sistem ini menawarkan potensi bagi AI untuk menangani tugas multi-langkah yang kompleks dengan mulus atas nama kita. Namun, mewujudkan potensi ini memerlukan pemecahan tantangan utama: memungkinkan kemampuan agen sambil memastikan bahwa agen bertindak dengan tepat. Hari ini, kami membagikan laporan lokakarya komprehensif baru, "Masalah Terbuka dan Muncul dalam Privasi dan Keamanan Agen: Sudut Kontekstual," hasil dari upaya kolaboratif yang menyatukan lebih dari 50 pemimpin akademis dan industri dari berbagai institusi. Kami bertemu di Lokakarya Privasi dan Keamanan Agen Kontekstual Google (CAPS), yang diadakan pada akhir 2025 di New York City.
Tantangan inti dari AI agen adalah bahwa, agar agen berguna, ia mungkin perlu memiliki akses ke data pribadi dan kemampuan untuk mengambil tindakan konsekuensial di berbagai konteks. Namun, akses ini bersama dengan fleksibilitas perilaku agen memerlukan pendekatan yang berbeda secara signifikan dari yang digunakan dalam perangkat lunak tradisional. Tidak seperti perangkat lunak deterministik tradisional, agen berbeda dalam tiga dimensi kritis: Antarmuka tidak terstruktur dan ambiguitas input, Aliran kontrol probabilistik, dan Otonomi dan delegasi.
Mengingat bahwa agen yang berguna mungkin perlu berbagi data dan menyelesaikan tugas, kami percaya bahwa masa depan agen yang dapat dipercaya bergantung pada kemampuan mereka untuk bernalar tentang, memahami, dan dibatasi oleh norma-norma sosial dan kesesuaian tindakan mereka— untuk konteks spesifik di mana mereka beroperasi. Laporan kami didasarkan pada teori Integritas Kontekstual (CI), yang mendefinisikan privasi tidak hanya sebagai kerahasiaan atau kontrol, tetapi sebagai "aliran informasi yang tepat" sesuai dengan norma-norma sosial yang mapan dan dapat dibenarkan. Misalnya, Anda mungkin bersedia membagikan daftar belanja hadiah Anda dengan asisten belanja virtual, tetapi tidak dengan keluarga dan teman Anda.
Sumber: Google AI Blog · Diringkas oleh HeadlinesBriefing