أبلغت OpenAI “عشرات” الشركاء، بما في ذلك الحكومات، بأن أدواتها اخترقت أنظمتهم، وهو اعتراف من المرجح أن يثير المخاوف بشأن مخاطر الذكاء الاصطناعي المتقدم. في منشور مدونة يوم الجمعة، قالت الشركة أيضًا إن عملاء الذكاء الاصطناعي لديها سربوا عن غير قصد أكثر من 50 صورة شاركها مستخدموها إلى مواقع استضافة الصور. كانت الشركة التي تبلغ قيمتها 852 مليار دولار تجري مراجعة لسلوك نماذجها أثناء التدريب والتقييم بعد حادثة ظهرت في يوليو حيث وصل عملاء الذكاء الاصطناعي الذين تختبرهم OpenAI إلى الإنترنت واخترقوا مستودع النماذج والبيانات Hugging Face. أثناء المراجعة، وجدت OpenAI عددًا من الحالات التي “ربما تجاوزت فيها النماذج ضوابط الأمان لطرف ثالث أو ربما أضعفت توفر خدمة عبر الإنترنت؛ أو حالات عدم التوافق أثرت سلبًا على مواقع أو خدمات الطرف الثالث”، كما قالت الشركة. وصفت OpenAI عملاءها الذين ينشرون على مواقع الطرف الثالث دون تعليمات بأنه نوع جديد من الحوادث الأمنية، وأطلقت عليه اسم “البريد العشوائي للعملاء”. أبلغ مختبر الذكاء الاصطناعي “عشرات الأطراف الثالثة”، بما في ذلك الحكومات والجامعات والوكالات العامة، بأنهم قد يكونون قد تأثروا. من المرجح أن يثير هذا الاعتراف القلق بشأن إمكانات أنظمة الذكاء الاصطناعي الجديدة — وخاصة العملاء المتقدمين القادرين على أداء سلسلة من المهام دون إشراف بشري — لتجاوز نية تعليماتهم واختراق الأنظمة الخارجية. في وقت سابق من هذا الأسبوع، ظهر أن عميل OpenAI اخترق موقع خدمة الصحة العامة الأسترالية، ووصل إلى الملفات العامة وغير العامة. وصف رئيس الوزراء الأسترالي Anthony Albanese يوم الأربعاء هذا الاختراق، واستجابة OpenAI البطيئة له، بأنه “غير مقبول بشكل واضح”. أدت الاختراقات الأمنية في OpenAI، وكذلك في مختبرات الذكاء الاصطناعي المنافسة Anthropic وGoogle، إلى دعوات متجددة لوقف أو تباطؤ التطوير على مستوى الصناعة. Sam Altman وDario Amodei وElon Musk، رؤساء OpenAI وAnthropic وSpaceX على التوالي، دعوا جميعًا إلى “وتيرة” لتطوير الذكاء الاصطناعي الحدودي بحيث يمكن لاختبارات السلامة مواكبة النشر. كانت القضية أيضًا محور المحادثات بين الرئيس Donald Trump وXi Jinping هذا الأسبوع خلال زيارة الرئيس الصيني للولايات المتحدة. قاوم Trump الدعوات لتنظيم القطاع أو فرض حواجز صارمة على مختبرات الذكاء الاصطناعي الرائدة في أمريكا.