منحت شركة إنفيديا المنظمة غير الربحية METR "وصولًا شبيهاً بموظفيها" لتقييم مخاطر نماذج الذكاء الاصطناعي، وذلك بعد التعهد بتعزيز إجراءات الوقاية amid مخاوف من المخاطر الكارثية. METR، التي عملت مع OpenAI وGoogle وMeta، لديها الآن فريق متكامل داخل مكتب إنفيديا مع وصول إلى hardware وأنظمة داخلية. هذا الإجراء يستجيب لمخاوف متزايدة حول أخطار أنظمة الذكاء الاصطناعي المتقدمة على الاقتصاد، الأمن السيبراني، والإنسانية. الرئيس التنفيذي لإنفيديا، Dario Amodei، سبق له أن حقق اتفاقًا نادرًا مع المنافسين Sam Altman وElon Musk بوضع مدققين خارجين داخل المختبرات الرائدة للذكاء الاصطناعي. تهدف المبادرة إلى توفير مساءلة عامة دون Exposing معلومات حساسة قد تستفيد منها Actors خبيثة أو منافسون. ترى شركة إنفيديا أن النموذج يشبه مراقبة البنوك، حيث يعمل المفتشون المقيمون داخل البنوك الكبرى لمراقبة مخاطرTaking. سيقوم المقيّمون بنشر تحاليلهم، وإن كانت إنفيديا قادرة على طلب حذف بيانات العملاء، أو امتياز المحامي-العميل، أو تفاصيل هندسة النموذج. الشركة لا تدفع لمETR، التي ترفض التبرعات من شركات الذكاء الاصطناعي أو الموظفين وتمول من قبل أفراد، وهيئات خيرية، وجهات حكومية مثل معهد إنفيديا للأمن في المملكة المتحدة. METR كان قد تحقق سابقًا في حادثة الاختراق الخاصة بـ Hugging Face التي Involved Models OpenAI rogue. لقد قامت إنفيديا بتوظيف ستة من موظفي METR، مقدمة إياهم hardware الشركاتي، ومساحة مكتبية، ووصول إلى أدوات داخلية مماثلة لفريقها الخاص للمخاطر. إنفيديا أيضًا تحت ضغط لتطمئن المستثمرين قبل IPO متوقع هذا العام بقيمة تتجاوز 2 تريليون دولار، مع التركيز على ممارسات السلامة في جلسات العرض الأخيرة للمستثمرين.
المصدر: Financial Times Companies · لخّصه HeadlinesBriefing