أعلن Jacob Coxon استقالته من Anthropic بعد ثلاث سنوات من أبحاث التدريب المسبق في كل من OpenAI وAnthropic. ذكر أن الشركتين لا تتصرفان بمسؤولية، بل تتسابقان نحو ذكاء فائق ذاتي التحسين و"تقامرون بحياتنا". حذر Coxon من أن هذه الأنظمة ستصبح قريبًا فائقة للبشر، قادرة على اختراق أي شيء وإحداث ثورة في أي مجال بين عشية وضحاها. لاحظ أن البنائين في OpenAI لم يستوعبوا بعمق المخاطر الحضارية، بينما تفهم Anthropic المخاطر لكنها محاصرة في سباق للوصول أولاً.

وصف Coxon قبول هذا السباق بأنه "مقامرة متهورة" لا ينبغي إطلاقها من قناة Slack لشركة خاصة. أعرب عن تفاؤله بشأن التنسيق، مستشهدًا بهجوم Hugging Face كعامل يجعل اتفاقات وتيرة العمل بين المختبرات الأمريكية أكثر قابلية للتطبيق. حث الباحثين على التفكير فيما إذا كانوا يريدون إطلاق تشغيل RL فائق الذكاء دون فهم صارم، أو اتخاذ إجراء بدلاً من قبول "سيحدث على أي حال".

حصد المنشور 20.3 مليون مشاهدة وأثار نقاشًا حول ميمات AI Notkilleveryoneism وما إذا كان على البنائين الذين يخشون المخاطر الوجودية مواصلة تطوير التكنولوجيا.

الكيانات الرئيسية: الشركات: Anthropic، OpenAI، Hugging Face | الأشخاص: Jacob Coxon، Tim Cook