ننتقل بسرعة إلى مشهد حاسوبي تحدده وكلاء عامة للغاية ومستقلة بشكل متزايد. مدفوعة بنماذج لغوية كبيرة (LLMs) يمكنها إنشاء خطط ديناميكيًا واستدعاء أدوات خارجية، تقدم هذه الأنظمة إمكانية للذكاء الاصطناعي للتعامل بسلاسة مع المهام المعقدة متعددة الخطوات نيابة عنا. ومع ذلك، فإن تحقيق هذه الإمكانية يتطلب حل تحدي رئيسي: تمكين قدرة الوكيل مع ضمان أن يتصرف الوكلاء بشكل مناسب. اليوم، نشارك تقرير ورشة عمل شاملة جديدة، "المشكلات المفتوحة والناشئة في خصوصية وأمان الوكلاء: زاوية سياقية"، نتيجة جهد تعاوني يجمع أكثر من 50 من القادة الأكاديميين والصناعيين من مؤسسات عديدة. اجتمعنا في ورشة عمل Google للخصوصية والأمان السياقي للوكلاء (CAPS)، التي عُقدت في أواخر 2025 في مدينة نيويورك.
التحدي الأساسي للذكاء الاصطناعي الوكيل هو أنه، لكي يكون الوكيل مفيدًا، قد يحتاج إلى الوصول إلى البيانات الشخصية والقدرة على اتخاذ إجراءات ذات عواقب عبر مجموعة واسعة من السياقات. ومع ذلك، فإن هذا الوصول مع مرونة السلوك للوكلاء يتطلب أساليب مختلفة بشكل جوهري عن تلك المستخدمة في البرامج التقليدية. على عكس البرامج الحتمية التقليدية، يختلف الوكلاء في ثلاثة أبعاد حاسمة: الواجهات غير المنظمة وغموض الإدخال، وتدفقات التحكم الاحتمالية، والاستقلالية والتفويض.
نظرًا لأن الوكلاء المفيدين قد يحتاجون إلى مشاركة البيانات وإكمال المهام، نعتقد أن مستقبل الوكلاء الجديرين بالثقة يعتمد على قدرتهم على التفكير في وفهم والتقيد بالأعراف الاجتماعية وملاءمة أفعالهم - للسياق المحدد الذي يعملون فيه. يستند تقريرنا إلى نظرية النزاهة السياقية (CI)، التي تعرف الخصوصية ليس فقط على أنها سرية أو سيطرة، بل على أنها "تدفق معلومات مناسب" وفقًا لأعراف اجتماعية راسخة وقابلة للتبرير. على سبيل المثال، قد تكون على استعداد لمشاركة قائمة التسوق الخاصة بك مع مساعد تسوق افتراضي، ولكن ليس مع عائلتك وأصدقائك.
المصدر: Google AI Blog · لخّصه HeadlinesBriefing