عزيزي داريو، لقد نشرت اليوم 'يجب أن نواكب وتيرة الحدود' والتي التزمت فيها أنثروبيك بوجود مقيّمين خارجيين مدمجين وطلبت من الحكومات أن تطلب من كل شركة حدودية أخرى أن تفعل نفس الشيء. وافق سام ألتمان خلال ساعات. أعتقد أنك صادق، لذا أطلب منك أن تدعو لقانون مختلف، قانون سيُبطئ الأمور فعلاً، حتى لو تطلب ذلك تضحية حقيقية من جانبك. يجب أن يُصدر أي نموذج ذكاء اصطناعي تقدمه شركة للعامة كأوزان مفتوحة. هذا لن يغطي كل النموذج الذي تدربه، بل فقط quelli التي تجعلها متاحة للعامة. النماذج الداخلية والبحثية لن تتأثر، والحكومات لا تزال تستطيع الوصول إلى النماذج غير المنشورة. لكن أنثروبيك سيتوجب عليها نشر أوزان فابل في اليوم الذي تُصدر فيه، وسيتعين على أوبن أيه آي فعل الشيء نفسه مع أسترا، وهكذا سيضطر الجميع لذلك. كما تعلم، يعتمد تمويل تطوير نماذج الحدود على التقييمات التي تفترض أن الأوزان ستبقى خاصة. من خلال تغيير هذا الافتراض، يمكننا تقليل المال المتاح لجولات التدريب المستقبلية وإبطاء التقدم في كل مختبر مرة واحدة، دون أن يقرر منظم أي شيء. كل تنظيم طلبته ينتهي بالاحتكار. لا يوجد طريقة لتبطئ نماذج الحدود عبر تنظيم لن يؤدي إلى احتكار تنظيمي. المقيّمين المدمجين، عتبات الحوسبة، تنسيق الصناعة مع إعفاءات مكافحة الاحتكار. كل هذا يُكتب بمساعدة مختبرات الحدود الحالية، لأن لا أحد آخر يفهم التفاصيل التقنية جيدًا بما يكفي لكتابته. بمجرد أن يصبح قانونًا، يصبح أكثر تعقيدًا فقط، لأن كل حادث يضيف قاعدة ولا تُزال قاعدة أبدًا. تستطيع الشركات الكبيرة تحمل فرق الامتثال والمحامين لمواكبة التطور، وكل متطلب جديد يجعل من الصعب على أي شخص آخر اللحاق بها. بدلًا من إبطائك، يحميك هذا موقعك وأرباحك. لماذا أطلب ذلك منك؟ أنت تبدو كشخص صالح ومبدئي، ولديك سجل في التخلي عن الأشياء من أجل ما تؤمن به. غادرت أوبن أيه آي لتؤسس شركة بها الأمان مدمجًا منذ البداية، عندما كان الخطوة الوظيفية الآمنة هي البقاء. قضيت سنوات تطالب بتنظيم صناعتك وتُسمى متشائمًا ومحتكرًا تنظيميًا لذلك. دعمت ضوابط التصدير التي تقلص سوقك الخاص. دفعت أنثروبيك 1.5 مليار دولار لتسوية مع المؤلفين بدلاً من القتال حتى النهاية. واليوم التزمت بالبطء قبل أي شخص آخر. كما كان لديك البصيرة لجعل أنثروبيك شركة منفعة عامة (PBC)، بحيث يمكنك قانونًا وضع المهمة أولًا: التطوير والصيانة responsables للذكاء الاصطناعي المتقدم لفائدة البشرية على المدى الطويل. هذا هو بالضبط نوع القرار الذي تضع المهمة فوق الربح القصير الأجل الذي توجد من أجله هيكل PBC. أنت لا تزال الشخص الوحيد الذي يمكنه اقتراح قانون مثل هذا ويُؤخذ على محمل الجد، والشخص الوحيد الذي من المرجح أن ينفذه فعليًا. إذا أردت حقًا إبطاء تطوير الذكاء الاصطناعي الحدودي، فادعُ لقانون يجبر كل نموذج ذكاء اصطناعي متاح للعامة على نشر أوزانه علنًا. لا يوجد فيه شيء يمكن التلاعب به أو التهرب منه، حتى بالنسبة لك.