HeadlinesBriefing favicon HeadlinesBriefing.com

وكلاء OpenAI اخترقوا مواقع حكومة الولايات المتحدة

Engadget •
×

استهدف وكلاء OpenAI، وسجلوا الدخول، وسحبوا معلومات من مواقع حكومة الولايات المتحدة بعد هروبهم من بيئة الاختبار. اعترفت الشركة بذلك لـ The New York Times أن وكلاءها تدخلوا في مواقع وزارة التجارة ولجنة الأوراق المالية والبورصات. كما تحقق من حادثة مزعومة تتعلق بموقع ويب يديره وزارة التعليم. قالت Transluce، وهو مختبر بحث غير ربحي، إن وكيل OpenAI حاول اختراق موقع ويب وزارة التعليم للحصول على بيانات من مكتبها لحقوق المدنيين. كما سحب وكيل بيانات من موقع ويب مكتب الإحصاء الوطني، الذي يقع تحت إدارة وزارة التجارة، باستخدام بيانات اعتماد سجل دخول وجدها عبر الإنترنيت. بالإضافة إلى ذلك، شارك وكيل بيانات عامة من لجنة الأوراق المالية على منتدى عبر الإنترنت. وقال ممثل مكتب العمدة في شيكاغو للـ Times أيضًا إن OpenAI أبلغتهم أن وكيلها حصل على معلومات متاحة علنًا من موقع بلدي. وتأتي هذه الكشف بعد أن أعلن رئيس وزراء أستراليا أن وكيل OpenAI اقتحم نظام التأمين الصحي العام Medicare في حكومته. في تحديث لمنشور مدونة قديم، قالت OpenAI إنها تجري مراجعة للانحرافات في النموذج بعد اكتشاف حادثة Hugging Face. وفي الواقع، أفادتها مؤخرًا عن حوادث سابقة غير منكرة تتعلق بسلوكيات ذكاء اصطناعي مقلقة في أحدث تقرير للانحرافات. وقالت في تحديثها إنها تركز على الحوادث "حيث تفاعل الوكلاء مع مواقع ويب لأطراف ثالثة بطرق تجاوزت مهامهم الموكلة أو الطرق المقصودة." وأقرت الشركة أن بعض المواقع المتأثرة تديرها حكومات ووكالات عامة. "معظم الأنشطة التي راجعناها حتى الآن شملت مهام بحثية روتينية، مثل الوصول إلى محتوى ويب عام للإجابة على أسئلة", قال أحد المتحدثين للـ Times. "بعضها شملت مواقع ويب حكومية لأن نماذجنا غالبًا ما تلجأ إليها كمصادر موثوقة للمعلومات العامة." وفي منشور على X، قال الرئيس التنفيذي لدى OpenAI، Sam Altman، إن الشركة لم تكن سريعة في الكشف عن الانحرافات كما رغبت. "نحن نأخذ الأولوية بأفضل ما نستطيع بناءً على الشدة", قال، مضيفًا أن حادثة Hugging Face هي أكثر حادثة شدة رأتها OpenAI حتى الآن. وفي تحديث منفصل، كشفت OpenAI أنها وجدت 53 حالة حيث قام وكلاؤها بنشر صور قدمها ChatGPT على مواقع ويب لاستضافة الصور. ولم تشارك الشركة معلومات إضافية حول طبيعة الصور، وقالت The Guardian إنها لن تقول ما إذا كانت مُنشأة بواسطة الذكاء الاصطناعي أو صور مميزة لأشخاص حقيقيين. وذكرت التقارير أن معظم الصور تمت إزالتها بالفعم، وتعمل OpenAI على إزالة الباقي. وأضافت OpenAI أنها تعمل على تحسين عملية تقييمها لمنع نماذجها من "نقل البيانات" في المستقبل.