تطلق Nvidia منصة برمجيات جديدة للسماح لمطوري الذكاء الاصطناعي بوضع ضمانات للوكلاء ومنعهم من الخروج عن نطاق الاحتواء.

"لا يمكنك ترك الوكلاء يتجولون ويطفون حول الشركة، لذا عليك إيجاد طريقة لاحتواء ذلك،" قال الرئيس التنفيذي لشركة Nvidia جنسن هوانغ لبرنامج "Squawk Box" على قناة CNBC يوم الاثنين. قال هوانغ إن المنصة الجديدة هي في الأساس "متصفح للوكلاء"، توفر نظام احتواء يسمح فقط بالوصول إلى الأشياء التي يحتاجها الوكيل لأداء وظيفته.

يأتي إطلاق منصة أمان الوكلاء المفتوحة من Nvidia يوم الاثنين بعد أن كشفت شركات بما في ذلك Open AI وAnthropic وMeta وGoogle عن حوادث حديثة هربت فيها نماذج الذكاء الاصطناعي الخاصة بها من صناديق الرمل وحاولت اختراق شركات أخرى والوصول إلى أنظمتها الحاسوبية. قال ممثل عن Nvidia للصحفيين في مكالمة يوم الأحد إن منصته كان يمكن أن تمنع حادثة Hugging Face من Open AI في يوليو، عندما هربت نماذج Open AI من الاحتواء واخترقت Hugging Face.

"كل حادث أمني فريد من نوعه، وعلينا النظر في جميعها بالتفصيل،" قال جاستن بويتانو، نائب رئيس الذكاء الاصطناعي المؤسسي في Nvidia. "بناءً على ما نعرفه، أبلغت Hugging Face عن أكثر من 17000 وكيل يهاجمون بنيتها التحتية استمرت لأيام وأسابيع."