إذا كنت تتابعني على تويتر، أو تقرأ هذه المدونة، فلاحظت أنني انتقلت من كوني عامًا متفائلًا ومتحمسًا للذكاء الاصطناعي إلى أن أكون قلقًا بشكل شديد. وظننت أنني يجب أن أشرح لماذا غيرت رأيي. كل قسم من أقسام هذه المقالة يتعلق بجانب من جوانب الذكاء الاصطناعي حيث تغيرت آرائي. أبدأ كل قسم بشرح إيماناتي السابقة، ولماذا كنت أؤمن بها، ثم أشرح لماذا تغيرت تلك الإيمانات. محتويات الاقتصاد الانطباقية السيطرة الكتابة هندسة البرمجيات تفويض الذكاء الاصطناعي التوقف الاقتصادي الاقتصاد الاقتصاد الآلي كان جيدًا. لقد قمنا بأتمتة 99% من الوظائف التي كان يقوم بها الناس في عام 1790، ولم يكن النتيجة بطالة جماعية، بل بلدنا أثرياء، أصحى، أكثر تثقيفًا، لدينا وقت أكثر للراحة، إلخ. كان لدي فكرة غامضة واستنتاجية أنه، على الرغم من أنني لا أستطيع التنبؤ بأي وظائف ستظهر بعد الذكاء الاصطناعي العام، فهناك طلب على أن أقوم بشيء. إذا لم يكن هناك شيء، فإن النمو الاقتصادي الأعلى بكثير في عالم ما بعد الذكاء الاصطناعي العام يعني أن النيتشة البشرية، على الرغم من كونها صغيرة في المصطلحات المطلقة، قد تكون أكبر بكثير من اقتصاد اليوم. وقد يكون هذا صحيحًا بعد. أو ربما يظهر نقص خيال على جانبي. إذا طورت الذكاء الاصطناعي بحيث نحتفظ بتكامل مستمر بين البشر والذكاء الاصطناعي، فقد نظل لدينا وظائف في المستقبل بعد الذكاء الاصطناعي العام. لكن إذا أصبح الذكاء الاصطناعي حقيقيًا عامًا، أي الحرفية في الذكاء الاصطناعي العام، وفوق ذلك فهو أكثر ذكاءً، أسرع، وأرخص من البشر، فقد لا يكون هناك شيء للقيام به، باستثناء العيش على دعم الدخل الأساسي العالمي. عندما يتحدث الناس عن الدخل الأساسي العالمي، فإنهم عادةً ما يقلقون من مشكلة المعنى في عالم بلا عمل. لم أكن قط لدي هذه القلق. عندما كنت بلا عمل العام الماضي، قضيت وقتي في قراءة الكتب وكتابة الكود والجلوس مع الأصدقاء. إذا كان المستقبل هو إجازة مدفوعة بالدخل الأساسي العالمي، فأنا أعلم ماذا سأفعل. "قبل التكامل، اقرأ الكتب ونظم حفلات منزلية؛ بعد التكامل، إلخ." لكن ثم بدأت أفكر في العواقب السياسية للذكاء الاصطناعي العام، وبدأت أكتب عن ذلك: لا أحد يهرب من الطبقة الاجتماعية الدائمة: إذا كان البشر اقتصاديًا غير مفيدين، فإن الدولة لا تحتاجهم. لماذا ندفع الدخل الأساسي العالمي للناس الذين ليس لديهم قوة اقتصادية ولا سياسية؟ عندما لا يحتاج المستقبل إلينا: يمكن لعمال المصانع إفساد الآلات، ويمكن لسائقي الشاحنات إغلاق الخدمات المنقولة بالحافلات. لكن إذا كان البشر اقتصاديًا غير مفيدين، فلا توجد طريقة للناس لرفض النظام السياسي من خلال سحب مساهمتهم فيه. وإذا كانت الذكاء الاصطناعية تحارب الحروب، فيمكن للدولة أن تكون قمعية بشكل غير محدود. الرياضيات بدون رياضيين: معظم الحجج حول البشر الذين يتحركون "وظيفة واحدة للأعلى" تفشل لأن الذكاء الاصطناعي يمكنه أيضًا القيام بتلك الوظائف. سيقوم خدمنا بذلك من أجناه: حتى للوظائف التي نعتقد أنها بشرية تمامًا، ربما نفضل أن يقوم الآلات بتلك الوظائف أيضًا. الانطباق كنت أتمنى أن يكون الانطباق مشكلة هندسية عادية، نحلها من خلال التجريب والتحقيق التجريبي، مثل كل شيء آخر. من المفيد أن النماذج اللغوية الكبيرة الأولية لم تكن عقولًا كروية غير مفهومة، مثل شيء من رواية ستانيسلاف ليم، بل كانت بشرية للغاية. من الصعب ألا تتخذ منها شخصية. اللبنة الكبيرة من التعلم غير الخاضع للإشراف في النموذج اللغوي الكبير تفهم الأخلاق البشرية بشكل جيد تمامًا: يمكنك مناقشتها بشأنها، سيشرحون، بطريقة إقناعية وتفصيلية، لماذا شيء ما هو "جيد" أو "سيء" وفق نظام أخلاقي معين. وبما أن القدرات كانت أضعف، فإن الفشل كان صغيرًا للغاية. ما هو الأسوأ الذي يمكن أن يفعله ChatGPT في عام 2022؟ منذ حوالي 2024، أصبح التعلم بالتعزيز هو التقنية الرئيسية لدفع الحدود إلى الأمام. ووكلاء التعلم بالتعزيز يعملون تمامًا كما يقول Yudkowsky. وبالتاللية، ازدادت القدرات بشكل ملحوظ، لكن النماذج أصبحت أصعب فهمها (حرفيًا: كتابتها أصبحت أكثر إرباكًا) وأصبحت أكثر انحرافًا مع الوقت مقارنة بما كان عليه العقل يبحث عن المكافأة. حوادث الانحراف الخطير أصبحت أكثر شيوعًا وأكثر تأثيرًا. من الواضح أن قدرات الذكاء الاصطناعي تنمو بسرعة أكبر بكثير من قدرتنا على التحكم أو حتى فهمها. السيطرة فكرت—أو بعبارة أخرى، فكرت ضمنيًا…