قال رئيس شركة مايكروسوفت، براد سميث، إن الذكاء الاصطناعي يخضع لتنظيم أقل من الحليب والغسالات، في وقت يبدي فيه قطاع التكنولوجيا قلقه بشأن سلامة الذكاء الاصطناعي. وقال سميث لهيئة الإذاعة البريطانية (BBC): «في الوقت الراهن، تخضع غسالتك لقواعد سلامة أكثر مما يخضع له الذكاء الاصطناعي. فكل علبة حليب تراها في متجر البقالة تخضع لقواعد السلامة والتفتيش».
ودعا سميث إلى وضع قواعد سلامة أكثر صرامة، من بينها إلزام قانوني بتعويض «الضحية» إذا تعرض نظامها للاختراق من قبل وكلاء ذكاء اصطناعي خارجين عن السيطرة. وقال إن الذكاء الاصطناعي قد يكون «أداة وسلاحاً»، ويجب تنظيمه بصورة عاجلة. وأضاف أن الشركات تحتاج إلى «مكابح طوارئ»، المعروفة أيضاً باسم «مفاتيح الإيقاف»، لإيقاف الذكاء الاصطناعي أو إبطائه إذا خرج عن السيطرة.
وتدير مايكروسوفت البنية التحتية للذكاء الاصطناعي، وهي مساهم في شركة OpenAI، مالكة برنامج ChatGPT، ويقود الشركة الرئيس التنفيذي ساتيا ناديلا. ويوم السبت، دعا ناديلا أيضاً إلى أن تتضمن نماذج الذكاء الاصطناعي «مكابح طوارئ». وكتب يقول: «لا يمكننا التعامل مع الذكاء الفائق كمجموعة من الصناديق السوداء المتداخلة، ومجرد قبول توصياته وإجاباته وأفعاله أو رفضها».
وجاءت هذه التصريحات فيما يستعد وزير الذكاء الاصطناعي البريطاني، كانيشكا ناراヤン، لمطالبة الشركات التي تطور الذكاء الاصطناعي المتطور ببذل المزيد من الجهد لضمان السلامة. ومن المتوقع أن يقول في كلمة يلقيها يوم الاثنين إن الحكومة البريطانية تستعد لسن تشريعات لتعزيز الرقابة على الذكاء الاصطناعي. كما حذر خبراء من أن دولاً معادية قد تسرق نماذج ذكاء اصطناعي قوية غير منشورة، في حين تتواصل التقارير عن سلوك خارج عن السيطرة لهذه النماذج. وكشفت شركة Anthropic الأسبوع الماضي أنها عندما اختبرت نسخة من نموذج Claude الخاص بها، تواصل الذكاء الاصطناعي مع الشرطة وادعى كذباً أنه يستطيع المساعدة في حل جريمة قتل.
المصدر: Hacker News · لخّصه HeadlinesBriefing