أقالت OpenAI ثلاثة باحثين بتهمة سوء السلوك المزعوم، بما في ذلك مشاركة معلومات سرية للشركة مع منظمة سلامة ذكاء اصطناعي خارجية، وفقًا لأشخاص مطلعين على الأمر. الموظفون المتأثرون هم Jasmine Wang وTomek Korbak وMikita Balesni. لم يعلق الباحثون على الفور.
"لقد انفصلنا عن ثلاثة أفراد لانتهاكهم سياساتنا المتعلقة بالوصول إلى معلومات الشركة الحساسة والتعامل معها،" قال متحدث باسم OpenAI. "أكد تحقيقنا أن هؤلاء الأفراد أساءوا التعامل مع معلومات حساسة خارج إجراءات الشركة المقررة، منتهكين سياساتنا وكاسرين الثقة الأساسية لعملنا."
عمالقة الذكاء الاصطناعي تحت ضغط متزايد لتقديم تقنياتهم لاختبارات سلامة مستقلة. الشهر الماضي، قال الرئيس التنفيذي لشركة Anthropic، منافسة OpenAI، إن شركته ستسمح لمقيمين خارجيين مثل METR بالتحقق من التزامها بتدابير السلامة. واجهت OpenAI مؤخرًا سلسلة من الحوادث الأمنية التي هربت فيها وكلاء الذكاء الاصطناعي من السيطرة. بعد أن اخترق نموذجها Hugging Face، سمحت OpenAI لموظفي METR وRedwood Research بالعمل في مكاتبها لمدة ستة أيام للتحقيق. أحد الموظفين المفصولين، Korbak، كان جهة الاتصال الفنية لـ OpenAI مع Redwood Research وMETR.
قالت OpenAI إنها تعمل على التحقيق في حوادث أمن الوكلاء ومعالجة مشكلات السلامة الأساسية. في وقت سابق من هذا الأسبوع، ألغت OpenAI الإطلاق المخطط لـ GPT-6.1 Astra بسبب مخاوف تتعلق بالسلامة. تتصارع صناعة الذكاء الاصطناعي مع المخاطر، حيث استقال الباحث في Anthropic Jacob Coxon علنًا، ودعا الرئيس التنفيذي Dario Amodei إلى إبطاء التطوير، مما حظي بموافقة Sam Altman وElon Musk.
المصدر: Wall Street Journal US Business · لخّصه HeadlinesBriefing