يستعرض تقرير شامل من Miles Brundage وJack Clark وShahar Avin المشهد المحتمل للتهديدات الأمنية الناشئة عن الاستخدام الخبيث للذكاء الاصطناعي. ويسهم في الدراسة أيضًا Dario Amodei وRoman Yampolskiy وJoanna Bryson، وتحلل كيفية تأثير الذكاء الاصطناعي على التهديدات في المجالات الرقمية والمادية والسياسية. وبعد تقييم هذه المخاطر المتطورة، يقدم المؤلفون أربع توصيات عالية المستوى لعلماء الباحثين في الذكاء الاصطناعي وغيرهم من أصحاب المصلحة لتوقّع تطبيقات الذكاء الاصطناعي الخبيثة ومنعها والتخفيف منها بشكل أفضل. كما يحددون اتجاهات بحثية واعدة يمكن أن تعزز الدفاعات أو تجعل الهجمات أقل فعالية. ويختتم التقرير بمناقشة التوازن طويل الأجل بين المهاجمين والمدافعين، مع أنه لا يحسم ديناميكيات ما يحدث بشكل قاطع. وقد قُدمت الورقة في الأصل في 20 فبراير 2018، ثم أُعيد تحديثها في 1 ديسمبر 2024، مما يعكس الاهتمام المتواصل بسلامة الذكاء الاصطناعي وأمنه.

نُشر التقرير على Hacker News، وقد جذب انتباه المهندسين وصنّاع السياسات والباحثين القلقين من الطبيعة ذات الاستخدام المزدوج لتقنيات الذكاء الاصطناعي. وتؤكد نتائجه urgência اتخاذ تدابير استباقية مع تقدم قدرات الذكاء الاصطناعي.

ويشدد المؤلفون على التعاون بين مطوري الذكاء الاصطناعي وخبراء الأمن وهيئات الحوكمة لمعالجة المخاطر الناشئة بمسؤولية.

ولا يزال عملهم مؤثرًا في تشكيل النقاشات حول سلامة الذكاء الاصطناعي والإشراف الاستراتيجي.

الكيانات الرئيسية: الأشخاص: Miles Brundage وShahar Avin وJack Clark وHelen Toner وPeter Eckersley وBen Garfinkel وAllan Dafoe وPaul Scharre وThomas Zeitzoff وBobby Filar وHyrum Anderson وHeather Roff وGregory C. Allen وJacob Steinhardt وCarrick Flynn وSeán Ó hÉigeartaigh وSJ Beard وHaydn Belfield وSebastian Farquhar وClare Lyle وRebecca Crootof وOwain Evans وMichael Page وJoanna Bryson وRoman Yampolskiy وDario Amodei

الأسئلة الشائعة: ما هي التوصيات الرئيسية لتقرير الذكاء الاصطناعي الخبيث؟

يقترح التقرير أربع توصيات عالية المستوى لعلماء الباحثين في الذكاء الاصطناعي وأصحاب المصلحة لتوقّع ومنع والتخفيف من الاستخدامات الخبيثة للذكاء الاصطناعي في المجالات الرقمية والمادية والسياسية.

FAQ Q: ما هي التوصيات الرئيسية لتقرير الذكاء الاصطناعي الخبيث؟

FAQ A: يقترح التقرير أربع توصيات عالية المستوى لعلماء الباحثين في الذكاء الاصطناعي وأصحاب المصلحة لتوقّع ومنع والتخفيف من الاستخدامات الخبيثة للذكاء الاصطناعي في المجالات الرقمية والمادية والسياسية.