مع زيادة المخاوف بشأن الذكاء الاصطناعي، استجوب مشرعو مدينة نيويورك ممثلين من الشركات الكبرى للذكاء الاصطناعي يوم الاثنين، وخرجوا بقليل من الوضوح حول كيفية معالجة التهديدات الوشيكة. لم quantify الشركات خطر حدث كارثي، أو ما إذا كانت لديها تأمين في تلك الحالات، أو ما إذا كانت قادرة على إيقاف نموذج ذكاء اصطناعي فشل في اختبار السلامة الداخلي أو المراجعة الخارجية. في تبادل tense، سأل رئيس مجلس مدينة نيويورك Julie Menin كل شركة عن كيفيةquantifying "المخاطر التي تفرضها الذكاء الاصطناعي في scenario الكارثي الأسوأ". Morgan Dwyer، التي تدير تطوير السياسات وعمليات OpenAI، قالت: "لا أعرف"، وأضافت أنها لا تعتقد أن الأمر يهم ما إذا كانت الفرصة 1 في المائة، 10 في المائة، أو 20 في المائة. أجاب Menin أن none من هذه المستويات مقبولة على الإطلاق. قال Dwyer إن OpenAI يجب ألا تدرب Models لا يمكن الاحتفاظ بها تحت سيطرة الإنسان بأمان. تضمنت الجلسة شهادات من Anthropic، OpenAI، Meta، وGoogle، بينما لم يحضر ممثل الفرع الخاص بالذكاء الاصطناعي من SpaceX، الخاضع لإدارة Elon Musk، رغم استدعاء citación. قالت Menin إنها ستطلب من القاضي التدخل. بعض الشركات تستعد للاكتتاب العام، مع قيمة Anthropic projected تتجاوز 2 تريليون دولار في بعض التقارير. حذّر Jacob Coxon، وهو منبّه (Whistleblower) recently quit Anthropic، من أن البشرية من المحتمل أن تفقد السيطرة على أنظمة الذكاء الاصطناعي، مما قد يؤدي إلى Extinction البشرية، وانتقد ثقافة الشركات "التحرك السريع، كسر الأشياء" كونها ساذجة given the stakes.
المصدر: New York Times Business · لخّصه HeadlinesBriefing