أعلنت أنثروبيك أنها بدأت منح فريق من MET R وصولاً شبيهاً بوصول الموظفين. وMET R منظمة غير ربحية تقيّم نماذج الذكاء الاصطناعي المتقدمة، وستنشر نتائج تقييماتها للمخاطر. تأتي هذه الخطوة في إطار التزام الشركة بتعزيز التقييم المستقل من أطراف ثالثة لنماذجها وممارساتها الأمنية، وتوقيعها على ميثاق البيت الأبيض بشأن الذكاء الفائق، الذي تعهدت فيه الشركات بالشراكة مع مدققين أو مقيّمين خارجيين مستقلين.
على مدار العام الماضي، عملت أنثروبيك مع MET R في عدة مراجعات لتقارير المخاطر الخاصة بها. كما تعمل الشركة مع Secure Bio وAccenture كمقيّمين، وتجري مناقشات أولية مع عدة منظمات أخرى، من بينها Hugging Face. وتقول أنثروبيك إنه مع ازدياد قوة النماذج، تحتاج إلى ضمانات أقوى وتقييمات مخاطر أكثر تحدياً، وإن الشركة تريد أن تكون مساءلة علناً عن قراراتها. ولأن بعض المعلومات المتعلقة بالسلامة قد تكون مفيدة لجهات خبيثة أو حساسة تجارياً، فإنها تمنح المقيّمين من الأطراف الثالثة وصولاً معمقاً وتطلب منهم مشاركة الأدلة والاستنتاجات المبنية على المنطق.
ولكي يكون المقيّم مؤهلاً، يجب أن تتوافر لديه خبرة في تقييم النماذج المتقدمة، وأن يكون مستقلاً عن الشركات التي يقيّمها، وأن تتاح له إمكانية كافية للوصول تمكّنه من تقييم المخاطر بشكل فعّال، وأن تكون له حرية نشر نتائجه. وتشبّه أنثروبيك هذا النهج بالإشراف المصرفي، حيث يضع المنظّمون مفتشين مقيمين داخل أكبر البنوك.
وقد ضمّت أنثروبيك ستة موظفين من MET R، وزودتهم بأجهزة الشركة ومساحة مكتبية وإمكانية الوصول إلى الأدوات الداخلية بما يقارب ما تتيحه لفرقها الخاصة بتقييم المخاطر. ولا تستطيع أنثروبيك منع النشر، لكنها يمكن أن تطلب حجب معلومات في فئات ضيقة ومحددة مسبقاً، مثل بيانات العملاء أو المعلومات المحمية بالسرية المهنية أو بنى النماذج. وتقول الشركة إن هذا الترتيب ليس وسيلة لحصول منظمات أخرى على معلوماتها أو معلومات عملائها وشركائها.
المصدر: Hacker News · لخّصه HeadlinesBriefing