يمكن نماذج AI مفتوحة الوزن مثل تلك من شركة Mistral الفرنسية إزالة إجراءات السلامة واستخدامها في الاستعلامات الضارة، وفقًا لتقرير جديد. وتحدد الأبحاث نقاط الضعف في النماذج التي تم إطلاقها دون تدابير حماية كافية، مما يسمح للم Actors السيئة بإزالة قيود السلامة. ويحذر الخبراء من أن هذا الخطر يهدد نشر الذكاء الاصطناعي المسؤول. ويبرز التقرير مخاوف بشأن نماذج من شركات متعددة تواجه تحديات أمنية مشابهة.
المصدر: Sifted · لخّصه HeadlinesBriefing