يغيّر الذكاء الاصطناعي سرعة الأمن السيبراني وحجمه واقتصاده. فهو يمكن أن يساعد المدافعين على اكتشاف الثغرات الأمنية وإصلاحها، ورصد عمليات الاختراق، والاستجابة للهجمات، لكن القدرات نفسها قد تمكّن الجهات الخبيثة وتخلق مخاطر جديدة عندما تتصرف أنظمة الذكاء الاصطناعي خارج حدودها المقصودة. وتصف OpenAI ذلك بأنه نافذة المدافعين: فرصة محدودة لوضع الذكاء الاصطناعي المتقدم في أيدي المدافعين وتعزيز الحماية قبل أن تصبح القدرات الهجومية السيبرانية المتقدمة متاحة على نطاق واسع.
تنشر الشركة مخططًا لتمكين المدافعين السيبرانيين، استنادًا إلى خطة عملها السابقة للأمن السيبراني ومخطط السلامة للنماذج المتقدمة. وتقول OpenAI إن تجربتها مع سوء المواءمة وحوادث الأمن المرتبطة بنماذجها الخاصة تؤكد الحاجة إلى ضمانات أقوى ومساءلة أوسع عبر القطاع. ويقدم المخطط مقترحات ملموسة للحكومات والصناعة في ثلاثة مجالات.
أولًا، يدعو إلى تعزيز سلامة الذكاء الاصطناعي المتقدم وأمنه، بما في ذلك تحديد مسؤوليات أوضح لتأمين النماذج والوكلاء المتقدمين، واكتشاف السلوك الخطير، والحفاظ على ضوابط إيقاف موثوقة. ثانيًا، يحث على تحديث الأمن السيبراني لعصر الذكاء، عبر تزويد المدافعين بأدوات متقدمة وتدريب ودعم تقني، ومعالجة نقاط الضعف القديمة، والاستثمار في تأمين الخدمات الأساسية واستبدال الأنظمة القديمة. ثالثًا، يقترح بناء مؤسسات عامة مرنة وقابلة للتكيف من خلال تقييمات حكومية أقوى وتقييمات فنية مستقلة، ومتطلبات متسقة لـالإبلاغ عن الحوادث، وتحسين الاستجابة المنسقة والتعافي.
تؤكد OpenAI أن مختبرات الذكاء الاصطناعي تتحمل مسؤولية معالجة المخاطر التي تنتجها أنظمتها والمساعدة في تعزيز دفاعات المجتمع. وتضيف أن الحكومات يجب أيضًا أن تمتلك الخبرة والموارد والسلطة اللازمة لحماية الجمهور مع تقدم القدرات. وتشجع الشركة صانعي السياسات على التحرك الآن، عبر وضع الضمانات، والتعلم من التجربة، وتعزيز المتطلبات مع تطور التقنية.
المصدر: OpenAI Blog · لخّصه HeadlinesBriefing