قالت OpenAI يوم الخميس إن سلسلة من مقالات الرأي المنتقدة للحرب مع إيران، والمنشورة تحت توقيعات مزيفة في منافذ إعلامية أمريكية، أُنتجت باستخدام روبوت الدردشة ChatGPT التابع لها من قبل مستخدمين مقيمين في إيران، كجزء من "حملة تأثير". وقالت الشركة إن الحملة نشرت نحو 100 مقال مزيف في 20 منفذًا إخباريًا على الأقل. وظهر أحد التوقيعات، وهو Ervin Hoskins، في صحيفة Port St. Joe Star الأسبوعية في ولاية فلوريدا، وكذلك في Daily Kos وMiddle East Monitor، وللمنصات الثلاث مجتمعةً أكثر من 3 ملايين متابع على فيسبوك. ووفقًا لأداة التحقق الخاصة بـ OpenAI، فإن صورة الكاتب التي استخدمتها الصحيفة أُنشئت أيضًا بأدوات الشركة.
وقال ناشر الصحيفة David Adlerstein إن المقال عُرض عليه من قبل Peace Voice، وهي مؤسسة فكرية ليبرالية صغيرة في ولاية أوريغون كانت ترسل محتوى إلى الصحيفة منذ سنوات. وبسبب هذه العلاقة لم يتحقق من هوية الكاتب. وقال Tom Hastings، المدير المؤسس لـ Peace Voice، إن المنظمة شددت سياستها الرافضة للذكاء الاصطناعي بعد أن تواصلت معه OpenAI.
وقالت OpenAI إنها حظرت الحسابات التي تقف وراء الحملة، وإنها تمنع الوصول إلى ChatGPT من إيران. وذكرت الشركة أن النشاط يتسق مع جهة تجارية تدير عملية تأثير مدفوعة الأجر، لكنها لم تتمكن من تحديد هويتها، وقد شاركت المعلومات مع الجهات المختصة. وأزالت Middle East Monitor وDaily Kos المقالات. ووصف مؤسس Daily Kos، Markos Moulitsas، الحملة بأنها "مدمرة للغاية" لمنصته، حيث لا يراجع الموظفون منشورات المجتمع قبل نشرها.
وتأتي هذه الواقعة بعد حالات سابقة حذفت فيها Business Insider وWired مقالات مولدة بالذكاء الاصطناعي نُشرت تحت توقيع مزيف هو Margaux Blanchard. وتُظهر هذه الحوادث كيف يمكن لأدوات الذكاء الاصطناعي أن تساعد شخصيات مختلقة على اجتياز الرقابة التحريرية، لا سيما في المنافذ الصغيرة التي تعتمد على المساهمات الخارجية.
المصدر: Hacker News · لخّصه HeadlinesBriefing