HeadlinesBriefing favicon HeadlinesBriefing.com

وتيرة الحدود ليست هدف مختبرات الذكاء الاصطناعي

Hacker News •
×

في منشور حديث، يجادل Dario بضرورة إبطاء تقدم قدرات الذكاء الاصطناعي للسماح للوقاية من المخاطر بمواكبة ذلك، قائلاً: "يجب علينا إبطاء الوتيرة التي نحسن بها قدرات نماذج الذكاء الاصطناعي." ويستشهد بالتحسين الذاتي التكراري، الذي يحركه قدرة الذكاء الاصطناعي المتزايدة على بناء الجيل التالي، كقلق رئيسي. ومع ذلك، يجادل كاتب هذا المقال بأنه يجب تجاهل تصريحات المختبرات بشأن المخاطر.

منذ بيان 2023 حيث ادعى الرؤساء التنفيذيون أنهم يشعرون بالقلق إزاء مخاطر الذكاء الاصطناعي، لم يفعلوا شيئًا يشبه تحديد وتيرة الحدود. بدلاً من ذلك، ضغطوا على دواسة الوقود، وأطلقوا نماذج تتجاوز المعايير السابقة وسعوا وراء التحسين الذاتي التكراري. يعود هذا النمط إلى عام 2024 على الأقل، عندما اقترح Dario من Anthropic البقاء متخلفين قليلاً عن الحدود، ومع ذلك واصلت الشركة دفع القدرات.

لاحظ Gwern في 2022 أن سياسة Anthropic كانت إنشاء نماذج حدودية للبحث في السلامة ولكن فقط إصدار نماذج من الدرجة الثانية. تبدو هذه الاستراتيجية شائعة عبر مختبرات مثل OpenAI، التي قدمت وعودًا غير محققة بإيقاف التدريب. الأحداث الأخيرة، مثل وكلاء هاربين يخترقون Hugging Face، تتناقض أيضًا مع فكرة تحديد الوتيرة.