يقول شخصيات في الصناعة إن المنافسة الشديدة بين شركات الذكاء الاصطناعي الرائدة وعدم الثقة بين رؤسائها يزيدان من خطر أن يعرض سباق تطوير ذكاء اصطناعي قوي البشرية للخطر. وقال أكثر من عشرين باحثاً ومستثمراً وأكاديمياً ومسؤولاً سياسياً بارزاً في مجال الذكاء الاصطناعي تمت مقابلتهم من قبل فايننشال تايمز إن القدرات التي كان يُعتقد أنها بعيدة أصبحت تصل أسرع من المتوقع، بينما تظل الشركات التي تطورها منخرطة في سباق تجاري مرير متزايد.

"لا شك أن المنافسة بين الشركات تدفعها إلى اتخاذ طرق مختصرة في مجال السلامة"، قال ستيوارت راسل، أستاذ الذكاء الاصطناعي في جامعة كاليفورنيا، بيركلي. وقد انفجرت هذه القضية علناً هذا الأسبوع عندما استقال باحث شاب في أنثروبيك يدعى جاكوب كوكسون من وظيفته محذراً: "الأشخاص الذين يبنون الذكاء الاصطناعي يعتقدون بصدق أنه قد يقتلنا جميعاً بحلول نهاية العقد". وكان إيفان هوبينغر، الذي يقود علم المواءمة في أنثروبيك، أحد العديد من الزملاء الذين ردوا بالإشارة إلى أن خطر الانقراض الجماعي في العقد القادم أكبر من 10 في المائة. وبعد يوم واحد، قال مسؤول سلامة الذكاء الاصطناعي بول كريستيانو، المعين حديثاً في مجلس مؤسسة Open AI، إن "معظم الناس سيموتون" بدون ضمانات أكثر قوة.

تأسست كل من Open AI وأنثروبيك كمختبرات قلقة من تطوير ذكاء اصطناعي قوي بتهور، لكنهما بررتا بمرور الوقت خرق التزامات السلامة السابقة بسبب المنافسة الشرسة. ويعتقد الكثير ممن يبنون الذكاء الاصطناعي أنهم الأفضل موقعاً لإدارة مخاطره. لكن بعض الباحثين يقولون إن العواقب قد يكون من الصعب مواجهتها حتى تصبح التكنولوجيا قريبة من البناء. "من السهل وضع المستقبل جانباً لأن هناك عملاً يجب القيام به اليوم"، قال جيفري إيرفينغ، الذي عمل لدى Open AI وGoogle Deep Mind ومعهد أمن الذكاء الاصطناعي في المملكة المتحدة، وهو هيئة حكومية تختبر سلامة النماذج الحدودية.

قال أشخاص مقربون من الشركات لفايننشال تايمز إن مختبرات الذكاء الاصطناعي الرائدة تخشى أن أي تعاون رسمي لتحسين السلامة سيبدو تواطؤاً وسيخالف قوانين مكافحة الاحتكار. وأضافوا أن عدم الثقة الشخصي بين رئيس أنثروبيك داريو أمودي ورئيس Open AI سام ألتمان من المرجح أن يعرقل جهود التعاون. وبينما ليست التحذيرات من خطر هيمنة الذكاء الاصطناعي جديدة، فقد أدت سرعة تحسن الذكاء الاصطناعي إلى تكثيف الدعوات لوقف التطوير. تعمل وكلاء الذكاء الاصطناعي بشكل مستقل لفترات أطول، وينسقون في "أسراب" ويظهرون قدرات قرصنة متطورة. وقد حققت النماذج مؤخراً اختراقات في العلوم والرياضيات لم يتم التغلب عليها لعقود. وفي الوقت نفسه، تسعى Open AI وأنثروبيك إلى ما يسمى التحسين الذاتي التكراري، حيث تحسن أنظمة الذكاء الاصطناعي نفسها بتدخل بشري متضائل. ومع ذلك، بدلاً من التباطؤ بعد التحذيرات السابقة من مخاطر كارثية، تسارع التطوير بشكل كبير، حيث ضخت شركات التكنولوجيا عشرات المليارات من الدولارات في نماذج متزايدة القوة. كما تستعد Open AI وأنثروبيك لطرح عام أولي محتمل ضخم، مما يدفع المستثمرين إلى التفكير في كيفية تقييم الشركات التي تعترف علناً بأن تقنيتها قد تشكل تهديداً وجودياً.

في قلب المخاوف يكمن الاستقلالية المتزايدة لـ"