في منتصف عام 2023، داخل مشروع البحث 'RLSlow'، رأينا النتائج الأولى التي أعطتنا الثقة بأننا قادرون على توسيع تدريب نماذج الاستدلال، مما يفتح القدرة على النماذج المدربة مسبقًا لتشكيل سلاسل التفكير الخاصة بها. قضى Szymon وأنا تلك الليلة في المكتب، لا نفكر في الأرقام المذهلة للمعايير، أو المنتجات، أو النتائج العلمية التي ستقدمها هذه التكنولوجيا - بل نحاول معالجة الحقيقة المثيرة للقلق التي سنراها فعلاً آلات أكثر ذكاءً بشكل ملموس منا في حياتنا، ونرى بالفعل شكل هذه الأنظمة؛ نتساءل كيف نحذر الناس من أهميتها. بعد ثلاث سنوات، أصبحت نماذج اللغة الاستدلالية جزءًا سريع النمو من الاقتصاد وتبدأ في دفع حدود العلم. إنها قادرة على تشغيل الحواسيب والواجهات الرسومية، والتعاون مع الناس وبعضها البعض، وتنفيذ مشاريع البحث. كما أنها تُحدث تحولًا في مشهد أمن الحاسوب، وتقدم في ذلك مخاطر جديدة واضحة. حدث الكثير من البحث الجديد في هذه الفترة، وفهمنا لهذه الأنظمة أصبح مرة أخرى مختلفًا قليلًا عما كان عليه في عام 2023. بناءً على النتائج الداخلية، لدي توقع قوي بأن هذه وتيرة التقدم يمكن أن تستمر في التحسين الذاتي التكراري. إذا استمر تطوير الذكاء الاصطناعي على مساره الحالي، فمن المرجح أن تمثل الأنظمة التي سنراها في السنوات القفزات القادمة في القدرة مساواة أو أكبر في الحجم، وستزداد دفعًا لتطويرها الذاتي. هذا هو الوقت الذي يتطلب حذرًا极端ًا. أنا قلق من أن لا أحد مستعد لعواقب الارتفاع المستمر والسريع في ذكاء الآلة. سيستمر Open AI في البحث عن حلول فنية للتوفيق والمراقبة، لبناء أنظمة دفاعية، ووقف التوسع الإضافي من طرف واحد عند الحاجة؛ ومع ذلك، أعتقد أنه مطلوب تدخلات أوسع.