وقّعت OpenAI ومعهد NASK الوطني للبحوث في بولندا اتفاقية لاستكشاف التعاون في أمان الذكاء الاصطناعي وسلامته والبحث التقني. وستجمع الشراكة خبرات المؤسستين لفهم المخاطر الناشئة بشكل أفضل، وتعزيز الضمانات، واستكشاف كيف يمكن للذكاء الاصطناعي المتقدم أن يسهم في بناء نظام رقمي أكثر أمانًا ومرونة.
ومع تزايد قدرات أنظمة الذكاء الاصطناعي، سيكون التعاون الدولي بين المطورين والمؤسسات البحثية العامة أمرًا أساسيًا. وقد ساعد عمل OpenAI القائم مع المركز الأمريكي لتطوير المعايير والابتكار للذكاء الفائق (CAISSI)، ومعهد أمن الذكاء الاصطناعي في المملكة المتحدة (AISI)، ومؤسسات بحثية عامة أخرى، بالفعل في تعزيز الضمانات، وتحديد الثغرات الأمنية في وكلاء الذكاء الاصطناعي ومعالجتها، والمضي قدمًا في أمان الذكاء الاصطناعي المتطور.
بموجب الاتفاقية، سيتعاون مركز أبحاث أمان الذكاء الاصطناعي التابع لـNASK، الذي يعمل بوصفه معهد أمان الذكاء الاصطناعي البولندي (AISI)، مع OpenAI في البحث عن سبل تقييم أنظمة الذكاء الاصطناعي المتزايدة القدرة، وتحديد الثغرات المحتملة، وتعزيز الضمانات. وقد دعت OpenAI الولايات المتحدة إلى العمل مع دول العالم على معايير تقنية دولية للذكاء الاصطناعي المتطور. ويمكن للمناهج المشتركة لتقييم القدرات وتقدير المخاطر واختبار الضمانات والإبلاغ عن الحوادث أن تساعد الدول على مقارنة الأدلة والاستجابة للمخاطر العابرة للحدود.
كما تستند الاتفاقية إلى العمل القائم بين OpenAI ومدافعي الأمن السيبراني في بولندا. ففي يوليو، حصل فريق CERT Polska، الذي يعمل ضمن NASK، على إمكانية الوصول إلى نماذج OpenAI ذات القدرات السيبرانية عبر Daybreak. واستخدم الفريق نماذج OpenAI للمساعدة في اكتشاف ست ثغرات في MikroTik RouterOS، بما في ذلك عيوب يمكن دمجها للسيطرة على الأجهزة المتأثرة دون مصادقة. وأصدرت الجهة المزودة إصلاحات أكدت CERT Polska أنها منعت الهجمات التي رصدتها.
المصدر: OpenAI Blog · لخّصه HeadlinesBriefing