يفتتح مشروع قانون أمان الذكاء الاصطناعي المقترح من شركة Anthropic التفعيل فقط في حالات extrema—تحديدًا إذا تسبب نموذج الذكاء الاصطناعي في 50 وفاة أو أضرار بقيمة مليار دولار—مما يمنح وزارة التجارة وحدها السلطة لإيقاف نشر الذكاء الاصطناعي. يضع مشروع القانون معايير remarkably عالية للتدخل، مما يعني أنه ما لم يحدث ضرر كارثي، فلا يمكن لأي وكالة فدرالية التدخل لإيقاف نظام ذكاء اصطناعي محتمل الخطورة. يرى النقاد أن هذا التصميم يجعل آلية السلامة تقريبًا عديمة الفائدة في منع الأضرار قبل وقوعها، حيث ينتظر وقوع ضرر لا يمكن إصلاحه. يعكس الاقتراح جدلًا أوسع حول كيفية تنظيم الذكاء الاصطناعي المتطور بسرعة دون كبح الابتكار، لكنه يثير مخاوف جادة حول المساءلة والأمان العام. من خلال ربط التدخل بنواتج شديدة الخطورة، قد يفشل مشروع القانون في معالجة المخاطر مثل المعلومات الخاطئة الواسعة، الانقطاع الاقتصادي، أو الأضرار الاجتماعيةgradual التي لا تلبي شرط الوفاة أو الأضرار. ومع ذلك، يرى المؤيدون أن وضع عتبة عالية يمنع المبالغة في رد الفعل ويضمن أن الإجراءات التنظيمية تحدث فقط بعد وقوع أضرار كبيرة قابلة للإثبات. تسلط التشريعات الضوء على التوازن بين تمكين التقدم التكنولوجي وإنشاء تدابير حماية ذات معنى في تطوير الذكاء الاصطناعي.
المصدر: Hacker News · لخّصه HeadlinesBriefing