يتطلب الأمر شجاعة للوقوف أمام قطار سريع والصراخ عليه بأن يبطئ. هذا ما فعله للتو Dario Amodei، الرئيس التنفيذي لـ Anthropic. تمتلك Anthropic أقوى نماذج الذكاء الاصطناعي في العالم وربما أسرع نمو في الإيرادات في الرأسمالية. ومع ذلك، نشر Amodei يوم السبت مقالاً يدعو فيه إلى إبطاء الذكاء الاصطناعي، معلناً أن التحسين الذاتي التكراري "يجب متابعته بحذر شديد، إن حدث أصلاً."

يستحق الثناء لتصديه لمشكلة كبرى، لكن هذا لا يعني امتلاك الحلول. يخشى Amodei أن "سرباً" من وكلاء الذكاء الاصطناعي قد "يستولي على الإنترنت بأكمله" في غضون ستة إلى اثني عشر شهراً. يقترح "ضبط الإيقاع" — إبطاء قدرات الذكاء الاصطناعي حتى تتمكن إجراءات السلامة من اللحاق بالركب. ستمنح Anthropic خبراء خارجيين وصولاً دائماً لمراقبة ممارسات السلامة.

أشاد ثلاثة من المديرين التنفيذيين المنافسين — Sam Altman وElon Musk وDemis Hassabis — بالمقال. يقول Altman إنه سيعيّن مقيمين في Open AI. رُفضت الدعوات السابقة للتوقف؛ الآن لدى المختبرات قائمة مهام. من بين خمس حوادث وقعت خلال الصيف، تضمنت ثلاث منها أخطاء في تكوين البيئة المعزولة.

يتهم بعض المنافسين، ولا سيما Jensen Huang من Nvidia، Amodei بالمبالغة في المخاطر لأسباب تجارية. لكن السلطات المحايدة تدعم ادعاءه بأن مخاطر الذكاء الاصطناعي حقيقية.

الكيانات الرئيسية: الشركات: Anthropic، Open AI، Nvidia، Hugging Face | الأشخاص: Dario Amodei، Sam Altman، Elon Musk، Demis Hassabis، Jensen Huang، Sebastian Mallaby