HeadlinesBriefing favicon HeadlinesBriefing.com

Astra AI: مخاطر الأمن السيبراني الحرجة

OpenAI Blog •
×

قامت OpenAI بتحديث تقييمها لنموذج Astra، حيث صنفته الآن على أنه يفي بعتبة الأمن السيبراني الحرجة بموجب إطار الاستعداد الخاص بها. وهذا يعني أن Astra يمكنه تحديد وتطوير استغلالات بشكل ذاتي لثغرات غير معروفة سابقًا في العديد من الأنظمة المحصنة. وقد أخرت الشركة أجزاءً من تطوير وإصدار Astra لتعزيز الحماية ضد سوء الاستخدام.

في الاختبارات، حقق Astra درجة كاملة على ExploitBench، مما يظهر قدرته على تطوير استغلالات من ثغرات معروفة. كما أظهر معدلات نجاح عالية على معيار داخلي للثغرات عالية الخطورة التي تم الكشف عنها مؤخرًا، واكتشف حتى ثغرتين من نوع zero-day أثناء التقييمات. تسلط هذه النتائج الضوء على القدرات المتقدمة للنموذج.

لتخفيف المخاطر، نفذت OpenAI ضمانات أقوى، بما في ذلك تدريب Astra على رفض الطلبات السيبرانية الضارة وإضافة مراقبة لكشف النشاط غير المصرح به. سيكون الوصول إلى ميزات الأمن السيبراني الأكثر تقدمًا محدودًا في البداية، مع مجموعة من المختبرين الذين سيحصلون على وصول مبكر من خلال برنامج يسمى Daybreak Blue، قبل توسيع الاستخدام الدفاعي الأوسع.

تؤكد الشركة أن ضمانات الإنتاج الخاصة بها كانت ستمنع حادثة Hugging Face السابقة، وقد نفذت منذ ذلك الحين إجراءات أقوى. تخطط OpenAI لمشاركة مزيد من التفاصيل حول اختبارات السلامة والأمن والمواءمة في بطاقة نظام النموذج عند الإطلاق، بهدف الموازنة بين الابتكار والنشر المسؤول.