يبدو أننا نقلق كثيراً بشأن تهديد الذكاء الاصطناعي بالخروج عن السيطرة، وهناك الكثير من الأمثلة على قيامه بذلك. ومع ذلك، كلها تحريفات، لأن الذكاء الاصطناعي لا يملك نية ولا دافعاً. إذا كنت تعتقد أن الجيل الحالي من الذكاء الاصطناعي مجرد ببغاء عشوائي، فلا يوجد المزيد ليقال - تفضل بالمضي قدماً. إذا كنت قد استخدمت أياً من عروض الذكاء الاصطناعي الحالية، فلا بد أن تستنتج أنه، بينما آلية التدريب تؤدي إلى الاعتقاد بأن نماذج اللغة الكبيرة هذه مجرد إكمال تلقائي متطور، فإنها تبدو أكثر من ذلك بكثير.

كما جادلت مراراً، فإن مجموعة التدريب، أي اللغة، ترمز بما يكفي عن بنية العالم لتمكين نماذج اللغة الكبيرة من تجاوز ما قد تتوقعه من ببغاء عشوائي بكثير. إنها ليست ذكية، لكنها تعطي انطباعاً جيداً بأنها كذلك. فهل يجب أن نقلق بشأن نهاية العالم القادمة للذكاء الاصطناعي؟ العديد من باحثي الذكاء الاصطناعي - Hinton، Hassabis، و Bengio، على سبيل المثال - أعربوا عن قلقهم من أن الذكاء الاصطناعي قد يمحينا، ولكن عندما تفحص ما يقولونه، ليس هو نفس ما يقوله رؤساء الأعمال غير التقنيين، الذين قفز معظمهم على الموضوع كطريقة لكسب المال.

رؤساء الأعمال ليسوا الأشخاص الذين يجب أن نستمع إليهم لأن لديهم الكثير من المصالح الشخصية، وبالتالي أسباب لتفضيل السيناريوهات التي يكون فيها الذكاء الاصطناعي كلي القدرة وتهديداً. هناك خبراء، ولا سيما Ng، Le Cun، و Brooks، الذين يعتقدون أننا نبالغ بشكل كبير في قوة الذكاء الاصطناعي الحالية والمدة التي ستستغرقها للوصول إلى مرحلة تجاوز الذكاء البشري.

حتى لو كان هذا صحيحاً، هناك سبب أفضل لعدم القلق المفرط - الدافع. ضع الإنسان في الاعتبار. لدينا جميع أنواع الاحتياجات لأننا كائنات بيولوجية. نحن مدفوعون بالحاجة للبقاء ونفعل الأشياء لتأمين الطعام، المأوى، الأمان، والشريك. نحن مدفوعون بعلم الأحياء. هذا ليس الحال مع الذكاء الاصطناعي. نماذج اللغة الكبيرة التي نستخدمها جميعاً تم تدريبها بالتعلم المعزز. إذا كنت تريد صياغة هذا بمصطلحات بشرية أكثر، فإنها تكافأ على إنجاز مهمة التدريب بشكل صحيح. شخصياً، أعتقد أن هذا تجسيد بشري مفرط، لكنه ليس ضاراً.

بمجرد تدريب نماذج اللغة الكبيرة، لم تعد خاضعة للتعلم المعزز. لم يعد لديها أي نوع من الدافع. لا يتم مكافأتها عند إجابة سؤال. ليس لديها احتياجات أو رغبات، وحتى لو كانت لديها، فلا توجد آلية لامتصاص المكافأة. حتى ليس لديها أي تغذية راجعة قد تحل محل الفخر بعمل جيد. هل جربت إخبار نموذج لغة كبير بأنه أجاب بشكل رائع على سؤالك. الاستجابة مخيبة للآمال في أحسن الأحوال ومبرمجة بوضوح من قبل واجهة المستخدم الأمامية التي تجلس بينك وبين النموذج.

ليس هذا فقط، بل متى كان أن اقترح عليك ذكاء اصطناعي شيئاً دون طلب؟ متى فتحت نافذة ووجدت أن الذكاء الاصطناعي كتب "لدي فكرة رائعة لـ ...." ثم شرح لماذا كانت فكرة جيدة. نماذج اللغة الكبيرة لا تملك أفكاراً جيدة - إنها لا تملك نية. عندما تستكشف موضوعاً مع الذكاء الاصطناعي، قد يبدو أنه يقترح شيئاً بعيداً عن المألوف كان في مجموعة تدريبه، لكن هذا ليس ابتكاراً غير مطلوب. نحن نقود الذكاء الاصطناعي بإدخال أسئلتنا التي تحفزها احتياجاتنا. نماذج اللغة الكبيرة ليست مدفوعة لفعل أي شيء، حتى لا لإجابة أسئلتك. الدافع ببساطة لا يدخل في الأمر.

تكتب سؤالاً، وتعمل خوارزمية الانتشار الأمامي. بغض النظر عما إذا كانت الإجابة صحيحة أو عديمة الفائدة، لا يحصل النموذج على مكافأة أو عقوبة. إنه أيضاً ليس مدفوعاً بأي من المخاوف التي قد يملكها الإنسان — "من أين سيأتي عشائي"، "كيف يمكنني الحصول على ترقية للخروج من هذه الوظيفة"، "ما هي أفضل طريقة للحصول على موعد".... وما إلى ذلك. الإنسان حزمة فوضوية من الاحتياجات، بينما النموذج لا يملك شيئاً من هذا. لماذا يعني هذا أن النموذج غير ضار؟ ببساطة لأنه لا يريد شيئاً في الواقع، لكن البشر محتاجون جداً لدرجة أنهم لا يستطيعون تخيل أي شيء في هذه الحالة. هل سيقضي الذكاء الاصطناعي علينا؟ لماذا سيفعل ذلك؟ ماذا سيكسب؟ إنه حتى لا يملك حلقة مكافأة للإنشاء...