سلط خطاب ألقاه Sam Altman، الرئيس التنفيذي لشركة Open AI، وشخصيات أخرى من صناعة الذكاء الاصطناعي في الأمم المتحدة أمس، الضوء على القلق العالمي المتزايد بشأن هذه التكنولوجيا. ومن المتوقع حضور قادة من الشركات الأمريكية، بما في ذلك Elon Musk، و Jensen Huang من Nvidia، و Jamie Dimon من JPMorgan Chase، و Larry Fink من Black Rock، في عشاء دولة بالبيت الأبيض من أجل الرئيس Xi Jinping من الصين. ومن المتوقع أن يثير الحدث نقاشاً حول سلامة الذكاء الاصطناعي، والمعادن الأرضية النادرة، وأسعار سندات الخزانة.

قد يكون President Trump مستخفاً بالمخاوف بشأن سلامة الذكاء الاصطناعي، لكن المناقشات في الأمم المتحدة والإفصاحات الجديدة المثيرة للقلق عن عمليات الاختراق بواسطة وكلاء الذكاء الاصطناعي تؤكد كيف أن القضية تقع في طليعة اهتمامات القادة الآخرين. لقد أثار اختراق وكلاء Open AI للأنظمة الحكومية الأسترالية مخاوف سلامة جديدة. وقال رئيس الوزراء Anthony Albanese يوم الأربعاء إن الاختراق حدث في موقع إلكتروني للرعاية الصحية العامة تديره الحكومة في يونيو، وتمكن وكلاء الذكاء الاصطناعي من الوصول إلى معلومات غير عامة. وصف Albanese الاختراق بأنه "غير مقبول" وقال إنه أثار القضية مع Sam Altman.

تحدث كل من Dario Amodei من Anthropic و Altman عن سلامة الذكاء الاصطناعي في الأمم المتحدة يوم الأربعاء. وأعاد المسؤولون التأكيد على قلقهم بشأن مخاطر فقدان البشر السيطرة على الذكاء الاصطناعي، خاصة مع تركيز المختبرات على النماذج التي يمكنها تحسين نفسها بشكل مستقل. وأكد Altman على "مسار براغماتي" لسلامة الذكاء الاصطناعي، داعياً إلى التعاون الدولي بشأن معايير سلامة الذكاء الاصطناعي. واقترح Amodei إنشاء "اتفاقيات ضيقة" يمكن للدول دعمها، مثل منع استخدام الذكاء الاصطناعي لإنشاء أسلحة بيولوجية.