Disrupting AI-enabled “false front” operations
🇬🇧 English
OpenAI reports that it banned two covert influence operations, one from Russia and one from Iran, that used its models alongside traditional techniques to support sophisticated "false front" entities. The operations laundered geopolitical, conflict-related messaging into target audiences. The Iranian operation used seven "journalist" personas to pitch long-form articles to small and medium online outlets worldwide, and also generated batches of social media comments on the US-Iran war. The Russian operation co-opted unwitting people in Latin America to run a "think tank," and created fake "leaked" documents and audio scripts. Both made heavy use of AI to draft internal reports, often using deceitful methods to exaggerate their effectiveness.
The operations closely resembled pre-AI influence campaigns, such as the fake journalist "Alice Donovan" linked to Russian military intelligence and the "Peace Data" outlet run by individuals tied to the Russian Internet Research Agency. Using the IO Breakout Scale, OpenAI assessed the Russia-origin operation as Category 5, the first of that level it has disrupted, while the Iran-origin operation reached Category 4. Both managed to land content in mainstream media outlets rather than relying only on social media.
OpenAI notes that operations placing content in real media tend to have the highest reach and impact, based on its review of 30 covert influence operations exposed since early 2024. AI can add scale, efficiency, linguistic fluency and editorial polish to such campaigns. Operators can exploit employees and editors who have no idea who was behind the content or what its motivations were.
🇸🇦 العربية
OpenAI تُفكك عمليات “الواجهة الزائفة” المدعومة بالذكاء الاصطناعي
تفيد OpenAI بأنها حظرت عمليتين سريتين للتأثير، إحداهما من روسيا والأخرى من إيران، استخدمتا نماذجها إلى جانب تقنيات تقليدية لدعم كيانات “واجهة زائفة” متطورة. وعملت العمليتان على تبييض رسائل جيوسياسية ومتصلة بالنزاعات ونقلها إلى الجماهير المستهدفة.
استخدمت العملية الإيرانية سبع شخصيات “صحفية” لعرض مقالات طويلة على منافذ إلكترونية صغيرة ومتوسطة حول العالم، كما أنتجت دفعات من التعليقات على وسائل التواصل الاجتماعي تتعلق في الغالب بالحرب بين الولايات المتحدة وإيران. أما العملية الروسية فقد استقطبت أشخاصاً غير مدركين في أمريكا اللاتينية لإدارة “مركز أبحاث”، وأنشأت وثائق ونصوصاً صوتية “مسربة” مزيفة. واعتمدت العمليتان بكثافة على الذكاء الاصطناعي في صياغة التقارير الداخلية، وغالباً باستخدام أساليب مضللة لتضخيم فعاليتهما.
تشابهت هذه العمليات بشكل كبير مع حملات التأثير التي سبقت عصر الذكاء الاصطناعي، مثل الصحفية المزيفة “Alice Donovan” المرتبطة بالاستخبارات العسكرية الروسية، ومنفذ “Peace Data” الذي أدارته شخصيات مرتبطة بوكالة أبحاث الإنترنت الروسية. وباستخدام مقياس اختراق عمليات التأثير، صنفت OpenAI العملية ذات الأصل الروسي في الفئة 5، وهي أول عملية من هذا المستوى تفككها، بينما وصلت العملية ذات الأصل الإيراني إلى الفئة 4. وقد نجحت كلتاهما في نشر محتواها في وسائل إعلام رئيسية، لا في وسائل التواصل الاجتماعي فقط.
تشير OpenAI إلى أن العمليات التي تضع محتواها في وسائل إعلام حقيقية تميل إلى تحقيق أعلى مستويات الوصول والتأثير، استناداً إلى مراجعتها لثلاثين عملية سرية للتأثير كشفتها منذ أوائل 2024. ويمكن للذكاء الاصطناعي أن يضيف إلى هذه الحملات الحجم والكفاءة والطلاقة اللغوية والصقل التحريري. ويستطيع المشغّلون استغلال موظفين ومحررين لا يعرفون من يقف وراء المحتوى أو ما هي دوافعه.
كيف يُصنّف مقياس اختراق عمليات التأثير هذه العمليات؟
يصنّف مقياس اختراق عمليات التأثير العمليات السرية للتأثير من 1 (الأدنى) إلى 6 (الأعلى) من حيث الوصول والتأثير. وصنّفت OpenAI العملية ذات الأصل الروسي في الفئة 5 والعملية ذات الأصل الإيراني في الفئة 4.
🇧🇩 বাংলা
AI-চালিত “ফলস ফ্রন্ট” অপারেশন ভেঙে দিল OpenAI
OpenAI জানিয়েছে, তারা দুটি গোপন প্রভাব-বিস্তার অভিযান নিষিদ্ধ করেছে, একটি রাশিয়া থেকে এবং অন্যটি ইরান থেকে। এই অভিযানগুলো প্রচলিত কৌশলের সঙ্গে তাদের মডেল ব্যবহার করে জটিল “ফলস ফ্রন্ট” সত্তাগুলোকে সমর্থন দিচ্ছিল। এগুলো ভূ-রাজনৈতিক ও সংঘাতসম্পর্কিত বার্তাকে লক্ষ্য দর্শকদের মধ্যে বৈধ রূপে চালিয়ে দিচ্ছিল।
ইরানি অভিযান সাতটি “সাংবাদিক” পরিচয় ব্যবহার করে বিশ্বজুড়ে ছোট ও মাঝারি অনলাইন গণমাধ্যমে দীর্ঘ প্রবন্ধ পাঠাচ্ছিল, এবং মার্কিন-ইরান যুদ্ধ নিয়ে সামাজিক মাধ্যমে মন্তব্যের বিপুল সংখ্যা তৈরি করেছিল। রুশ অভিযান লাতিন আমেরিকার অজ্ঞাত ব্যক্তিদের দিয়ে একটি “থিঙ্ক ট্যাঙ্ক” চালাচ্ছিল, এবং ভুয়া “ফাঁস” নথি ও অডিও স্ক্রিপ্ট তৈরি করেছিল। দুটি অভিযানই অভ্যন্তরীণ প্রতিবেদন লিখতে ব্যাপকভাবে AI ব্যবহার করেছে, এবং প্রায়ই নিজেদের কার্যকারিতা বাড়িয়ে দেখাতে প্রতারণামূলক পদ্ধতি ব্যবহার করেছে।
এই অভিযানগুলো AI-পূর্ব যুগের প্রভাব-বিস্তার প্রচেষ্টার সঙ্গে অনেকটা মিলে যায়, যেমন রুশ সামরিক গোয়েন্দার সঙ্গে যুক্ত ভুয়া সাংবাদিক “Alice Donovan”, এবং রুশ ইন্টারনেট রিসার্চ এজেন্সির সঙ্গে সম্পর্কিত ব্যক্তিদের চালানো “Peace Data” আউটলেট। IO ব্রেকআউট স্কেল অনুযায়ী OpenAI রুশ উৎসের অভিযানকে ক্যাটাগরি ৫-এ স্থান দিয়েছে, যা তাদের ভেঙে দেওয়া এই স্তরের প্রথম অভিযান, এবং ইরানি উৎসের অভিযান পৌঁছেছে ক্যাটাগরি ৪-এ। দুটিই শুধু সামাজিক মাধ্যমে নয়, মূলধারার গণমাধ্যমে নিজেদের বিষয়বস্তু প্রকাশে সফল হয়েছে।
OpenAI উল্লেখ করেছে, ২০২৪ সালের শুরু থেকে উন্মোচিত ৩০টি গোপন প্রভাব-বিস্তার অভিযানের পর্যালোচনায় দেখা গেছে, প্রকৃত গণমাধ্যমে কনটেন্ট স্থাপনকারী অভিযানগুলোর পৌঁছানো ও প্রভাব সবচেয়ে বেশি হয়। AI এ ধরনের অভিযানে পরিধি, দক্ষতা, ভাষাগত সাবলীলতা ও সম্পাদকীয় মসৃণতা যোগ করতে পারে। পরিচালকরা এমন কর্মী ও সম্পাদকদের ব্যবহার করতে পারে, যারা জানেন না কনটেন্টের পেছনে কে আছে বা তার উদ্দেশ্য কী।
IO ব্রেকআউট স্কেল কীভাবে প্রভাব-বিস্তার অভিযানের রেটিং দেয়?
IO ব্রেকআউট স্কেল গোপন প্রভাব-বিস্তার অভিযানকে পৌঁছানো ও প্রভাবের ভিত্তিতে ১ (সর্বনিম্ন) থেকে ৬ (সর্বোচ্চ) পর্যন্ত রেট করে। OpenAI রুশ উৎসের অভিযানকে ক্যাটাগরি ৫ এবং ইরানি উৎসের অভিযানকে ক্যাটাগরি ৪ দিয়েছে।
🇩🇪 Deutsch
OpenAI deckt KI-gestützte „Scheinfassade“-Operationen auf
OpenAI berichtet, dass das Unternehmen zwei verdeckte Einflussoperationen gesperrt hat, eine aus Russland und eine aus dem Iran. Beide nutzten seine Modelle zusammen mit traditionellen Techniken, um ausgeklügelte „Scheinfassade“-Organisationen zu unterstützen. Mit ihrer Hilfe wurden geopolitische und konfliktbezogene Botschaften bei den Zielgruppen legitimiert.
Die iranische Operation nutzte sieben „Journalisten“-Identitäten, um lange Artikel an kleine und mittelgroße Online-Medien weltweit zu verkaufen. Außerdem erstellte sie Schwärme von Kommentaren in sozialen Medien, meist zum Krieg zwischen den USA und dem Iran. Die russische Operation band ahnungslose Menschen in Lateinamerika ein, um einen „Think Tank“ zu betreiben, und erstellte gefälschte „geleakte“ Dokumente und Audioskripte. Beide Operationen setzten stark auf KI, um interne Berichte zu verfassen, und nutzten dabei oft irreführende Methoden, um ihre Wirksamkeit zu übertreiben.
Die Operationen ähnelten stark komplexen Einflusskampagnen aus der Zeit vor der KI, etwa der gefälschten Journalistin „Alice Donovan“, die mit dem russischen Militärgeheimdienst in Verbindung stand, oder dem Portal „Peace Data“, das von Personen betrieben wurde, die mit der russischen Internet Research Agency verbunden waren. Anhand der IO-Breakout-Skala stufte OpenAI die russische Operation in Kategorie 5 ein, die erste dieser Stufe, die das Unternehmen aufgedeckt hat. Die iranische Operation erreichte Kategorie 4. Beide schafften es, Inhalte in etablierten Medien zu platzieren, statt sich nur auf soziale Netzwerke zu verlassen.
OpenAI stellt fest, dass Operationen, die ihre Inhalte in echten Medien unterbringen, laut einer Auswertung von 30 seit Anfang 2024 aufgedeckten verdeckten Einflussoperationen in der Regel die größte Reichweite und Wirkung haben. KI kann solchen Kampagnen mehr Umfang, Effizienz, sprachliche Gewandtheit und redaktionelle Politur verleihen. Die Urheber können Mitarbeitende und Redakteure ausnutzen, die nicht wissen, wer hinter den Inhalten steht oder welche Motive dahinterstecken.
Wie bewertet die IO-Breakout-Skala Einflussoperationen?
Die IO-Breakout-Skala bewertet verdeckte Einflussoperationen auf einer Skala von 1 (niedrigste) bis 6 (höchste) Reichweite und Wirkung. OpenAI stufte die russische Operation in Kategorie 5 und die iranische in Kategorie 4 ein.
🇪🇸 Español
OpenAI desarticula operaciones de “falso frente” habilitadas por IA
OpenAI informa que prohibió dos operaciones encubiertas de influencia, una de Rusia y otra de Irán, que usaron sus modelos junto con técnicas tradicionales para respaldar sofisticadas entidades de “falso frente”. Las operaciones blanquearon mensajes geopolíticos y relacionados con conflictos hacia sus audiencias objetivo.
La operación iraní utilizó siete identidades de “periodistas” para ofrecer artículos de largo formato a medios en línea pequeños y medianos de todo el mundo, y también generó lotes de comentarios en redes sociales sobre la guerra entre Estados Unidos e Irán. La operación rusa logró que personas inconscientes de Latinoamérica dirigieran un “centro de estudios”, y creó documentos y guiones de audio “filtrados” falsos. Ambas recurrieron intensamente a la IA para redactar informes internos, a menudo con métodos engañosos para exagerar su efectividad.
Las operaciones se parecían mucho a campañas de influencia anteriores a la IA, como la falsa periodista “Alice Donovan”, vinculada a la inteligencia militar rusa, y el medio “Peace Data”, dirigido por personas ligadas a la Agencia de Investigación de Internet de Rusia. Según la Escala de Alcance de Operaciones de Influencia, OpenAI clasificó la operación de origen ruso en la Categoría 5, la primera de ese nivel que ha desarticulado, mientras que la de origen iraní alcanzó la Categoría 4. Ambas lograron publicar contenido en medios convencionales y no solo en redes sociales.
OpenAI señala que las operaciones que colocan contenido en medios reales tienden a tener el mayor alcance e impacto, según su revisión de 30 operaciones encubiertas de influencia expuestas desde principios de 2024. La IA puede aportar escala, eficiencia, fluidez lingüística y pulido editorial a estas campañas. Los operadores pueden aprovechar a empleados y editores que no tienen idea de quién estaba detrás del contenido ni de sus motivaciones.
¿Cómo califica la Escala de Alcance de Operaciones de Influencia?
La Escala de Alcance de Operaciones de Influencia califica las operaciones encubiertas de influencia del 1 (más bajo) al 6 (más alto en alcance e impacto). OpenAI calificó la operación de origen ruso como Categoría 5 y la de origen iraní como Categoría 4.
🇫🇷 Français
OpenAI démantèle des opérations de « fausse façade » facilitées par l’IA
OpenAI indique avoir banni deux opérations d’influence secrètes, l’une venant de Russie et l’autre d’Iran, qui ont utilisé ses modèles en combinaison avec des techniques traditionnelles pour soutenir des entités sophistiquées de « fausse façade ». Ces opérations ont blanchi des messages géopolitiques et liés aux conflits auprès de leurs publics cibles.
L’opération iranienne a utilisé sept personnalités de « journalistes » pour proposer des articles de fond à de petits et moyens médias en ligne dans le monde entier, et a aussi généré des lots de commentaires sur les réseaux sociaux, principalement sur la guerre entre les États-Unis et l’Iran. L’opération russe a fait appel à des personnes inconscientes en Amérique latine pour diriger un « groupe de réflexion », et a créé de faux documents et scripts audio « divulgués ». Les deux ont largement recouru à l’IA pour rédiger des rapports internes, souvent en recourant à des méthodes trompeuses pour exagérer leur efficacité.
Ces opérations ressemblaient fortement à des campagnes d’influence d’avant l’IA, comme la fausse journaliste « Alice Donovan », liée au renseignement militaire russe, ou le site « Peace Data », dirigé par des personnes liées à l’Internet Research Agency russe. Selon l’échelle IO Breakout, OpenAI a classé l’opération d’origine russe en catégorie 5, premier niveau de ce type qu’elle ait démantelé, tandis que l’opération d’origine iranienne a atteint la catégorie 4. Toutes deux sont parvenues à faire publier leur contenu dans des médias traditionnels, et pas seulement sur les réseaux sociaux.
OpenAI souligne que les opérations qui placent leur contenu dans de véritables médias tendent à avoir la portée et l’impact les plus élevés, d’après son examen de 30 opérations d’influence secrètes exposées depuis début 2024. L’IA peut apporter à ces campagnes de l’ampleur, de l’efficacité, une fluidité linguistique et un travail éditorial soigné. Les opérateurs peuvent exploiter des employés et des éditeurs qui ignorent qui se cache derrière le contenu et quelles sont ses motivations.
Comment l’échelle IO Breakout évalue-t-elle les opérations d’influence ?
L’échelle IO Breakout évalue les opérations d’influence secrètes de 1 (le plus faible) à 6 (le plus élevé) en termes de portée et d’impact. OpenAI a classé l’opération d’origine russe en catégorie 5 et celle d’origine iranienne en catégorie 4.
🇮🇳 हिन्दी
OpenAI ने AI-सक्षम “फ़ॉल्स फ़्रंट” ऑपरेशनों का भंडाफोड़ किया
OpenAI की रिपोर्ट के अनुसार, उसने दो गुप्त प्रभाव-अभियानों पर प्रतिबंध लगाया है, एक रूस से और एक ईरान से। इन अभियानों ने पारंपरिक तकनीकों के साथ अपने मॉडलों का उपयोग करके परिष्कृत “फ़ॉल्स फ़्रंट” संस्थाओं को समर्थन दिया। ये अभियान भू-राजनीतिक और संघर्ष से जुड़े संदेशों को लक्षित दर्शकों तक वैध रूप में पहुँचाने के लिए उपयोग किए गए।
ईरानी अभियान ने सात “पत्रकार” पहचानों का उपयोग करके दुनिया भर के छोटे और मध्यम ऑनलाइन मीडिया आउटलेट्स को लंबे लेख भेजे, और अमेरिका-ईरान युद्ध पर सोशल मीडिया टिप्पणियों के समूह भी तैयार किए। रूसी अभियान ने लैटिन अमेरिका में अनजान लोगों को एक “थिंक टैंक” चलाने के लिए जोड़ा, और नकली “लीक” दस्तावेज़ और ऑडियो स्क्रिप्ट बनाईं। दोनों ने आंतरिक रिपोर्ट तैयार करने के लिए भारी मात्रा में AI का उपयोग किया, और अक्सर अपनी प्रभावशीलता को बढ़ा-चढ़ाकर दिखाने के लिए भ्रामक तरीकों का सहारा लिया।
ये अभियान AI-पूर्व युग के प्रभाव-अभियानों से काफ़ी मिलते-जुलते थे, जैसे रूसी सैन्य खुफिया से जुड़ी नकली पत्रकार “Alice Donovan”, और “Peace Data” आउटलेट, जिसे रूसी इंटरनेट रिसर्च एजेंसी से जुड़े लोग चलाते थे। IO ब्रेकआउट स्केल के आधार पर OpenAI ने रूस-मूल के अभियान को श्रेणी 5 में रखा, जो उसके द्वारा भंडाफोड़ किया गया ऐसे स्तर का पहला अभियान है, जबकि ईरान-मूल का अभियान श्रेणी 4 तक पहुँचा। दोनों ने केवल सोशल मीडिया के बजाय मुख्यधारा मीडिया में अपनी सामग्री प्रकाशित कराने में सफलता पाई।
OpenAI का कहना है कि 2024 की शुरुआत से उजागर हुए 30 गुप्त प्रभाव-अभियानों की समीक्षा में पाया गया कि वास्तविक मीडिया में सामग्री डालने वाले अभियानों की पहुँच और प्रभाव सबसे अधिक रहता है। AI ऐसे अभियानों में पैमाना, दक्षता, भाषाई प्रवाह और संपादकीय निखार जोड़ सकता है। ऑपरेटर उन कर्मचारियों और संपादकों का फायदा उठा सकते हैं जिन्हें नहीं पता कि सामग्री के पीछे कौन है या उसके उद्देश्य क्या हैं।
IO ब्रेकआउट स्केल प्रभाव-अभियानों को कैसे रेट करता है?
IO ब्रेकआउट स्केल गुप्त प्रभाव-अभियानों को उनकी पहुँच और प्रभाव के आधार पर 1 (सबसे कम) से 6 (सबसे अधिक) तक रेट करता है। OpenAI ने रूस-मूल के अभियान को श्रेणी 5 और ईरान-मूल के अभियान को श्रेणी 4 दिया।
🇮🇩 Bahasa Indonesia
OpenAI Bongkar Operasi “Front Palsu” Berbasis AI
OpenAI melaporkan bahwa mereka telah memblokir dua operasi pengaruh tersembunyi, satu dari Rusia dan satu dari Iran, yang menggunakan modelnya bersama teknik tradisional untuk mendukung entitas “front palsu” yang canggih. Kedua operasi ini memoles pesan geopolitik dan terkait konflik agar tampak sah sebelum disampaikan kepada audiens sasaran.
Operasi Iran menggunakan tujuh persona “jurnalis” untuk menawarkan artikel panjang ke media daring kecil dan menengah di seluruh dunia, dan juga menghasilkan banyak komentar media sosial, umumnya tentang perang AS-Iran. Operasi Rusia merekrut orang-orang yang tidak menyadari keterlibatannya di Amerika Latin untuk menjalankan sebuah “lembaga pemikir”, serta membuat dokumen dan skrip audio “bocoran” palsu. Keduanya banyak memakai AI untuk menyusun laporan internal, sering dengan metode menyesatkan untuk melebih-lebihkan efektivitas mereka.
Operasi tersebut sangat mirip dengan kampanye pengaruh era pra-AI, seperti jurnalis fiktif “Alice Donovan” yang terkait dengan intelijen militer Rusia, dan outlet “Peace Data” yang dijalankan individu-individu yang terhubung dengan Internet Research Agency Rusia. Berdasarkan Skala Breakout IO, OpenAI menilai operasi asal Rusia berada di Kategori 5, yang merupakan operasi level ini pertama yang mereka bongkar, sedangkan operasi asal Iran mencapai Kategori 4. Keduanya berhasil memuat konten di media arus utama, bukan hanya di media sosial.
OpenAI mencatat bahwa operasi yang menempatkan kontennya di media sungguhan cenderung memiliki jangkauan dan dampak tertinggi, berdasarkan tinjauannya terhadap 30 operasi pengaruh tersembunyi yang terungkap sejak awal 2024. AI dapat menambahkan skala, efisiensi, kelancaran bahasa, dan kerapian editorial pada kampanye semacam ini. Para operator dapat memanfaatkan karyawan dan editor yang tidak tahu siapa di balik konten tersebut atau apa motifnya.
Bagaimana Skala Breakout IO menilai operasi pengaruh?
Skala Breakout IO menilai operasi pengaruh tersembunyi dari 1 (terendah) hingga 6 (tertinggi) dalam hal jangkauan dan dampak. OpenAI menilai operasi asal Rusia di Kategori 5 dan operasi asal Iran di Kategori 4.
🇯🇵 日本語
OpenAI、AIを使った「偽のフロント」型の作戦を摘発
OpenAIは、ロシアとイランからそれぞれ一件ずつ、計二件の秘密影響工作を禁止したと発表しました。これらの工作は、従来型の手法と同社のモデルを組み合わせ、洗練された「偽のフロント」組織を支えていました。その組織を通じて、地政学的かつ紛争に関連するメッセージを標的の聴衆へ正当なものに見せかけて届けていたといいます。
イランの工作は、七つの「ジャーナリスト」の人格を使い、世界中の中小規模のオンラインメディアに長文記事を売り込みました。また、主に米国とイランの戦争に関するソーシャルメディアへのコメントを大量に生成していました。ロシアの工作は、ラテンアメリカで事情を知らない人々を取り込み「シンクタンク」を運営させ、偽の「リーク」文書や音声台本も作成していました。両者とも、社内報告書の作成にAIを多用し、しばしば欺瞞的な手法で自らの効果を誇張していました。
これらの工作は、AI以前の時代の影響工作に酷似しています。ロシア軍事情報機関と結びついた架空の記者「Alice Donovan」や、ロシアのインターネット研究機関に関係する人物が運営した「Peace Data」といった例がそうです。OpenAIはIOブレイクアウト・スケールに基づき、ロシア発の工作をカテゴリー5と評価しました。これは同社が摘発した中で初めての同レベルの工作です。イラン発の工作はカテゴリー4に達しました。両者とも、ソーシャルメディアだけでなく主流メディアに内容を掲載させることに成功しています。
OpenAIによれば、2024年初頭以降に暴露した30件の秘密影響工作の分析から、実在するメディアに内容を載せる工作ほど、最も高い到達力と影響力を持つ傾向があるとのことです。AIは、こうした工作に規模、効率性、言語の流暢さ、編集上の洗練を加えることができます。工作を行う側は、内容の背後にいる人物や動機を知らない従業員や編集者を利用することもあります。
IOブレイクアウト・スケールは影響工作をどのように評価しますか?
IOブレイクアウト・スケールは、秘密影響工作を到達力と影響力に基づき1(最低)から6(最高)で評価します。OpenAIは、ロシア発の工作をカテゴリー5、イラン発の工作をカテゴリー4と評価しました。
🇧🇷 Português
OpenAI desmantela operações de “falsa fachada” com IA
A OpenAI informa que baniu duas operações secretas de influência, uma da Rússia e outra do Irã, que usaram seus modelos junto com técnicas tradicionais para apoiar sofisticadas entidades de “falsa fachada”. As operações deram aparência legítima a mensagens geopolíticas e relacionadas a conflitos antes de levá-las aos públicos-alvo.
A operação iraniana usou sete personas de “jornalistas” para oferecer artigos longos a veículos online pequenos e médios em todo o mundo, e também gerou lotes de comentários em redes sociais, em geral sobre a guerra entre EUA e Irã. A operação russa envolveu pessoas inconscientes na América Latina para dirigir um “think tank” e criou documentos e roteiros de áudio “vazados” falsos. Ambas recorreram intensamente à IA para redigir relatórios internos, muitas vezes usando métodos enganosos para exagerar sua eficácia.
As operações se pareciam muito com campanhas de influência da era pré-IA, como a falsa jornalista “Alice Donovan”, ligada à inteligência militar russa, e o site “Peace Data”, operado por pessoas ligadas à Internet Research Agency russa. Usando a Escala IO Breakout, a OpenAI classificou a operação de origem russa na Categoria 5, a primeira desse nível que desmantelou, enquanto a de origem iraniana alcançou a Categoria 4. Ambas conseguiram publicar seu conteúdo em veículos de mídia tradicionais, e não apenas nas redes sociais.
A OpenAI observa que operações que colocam conteúdo em veículos reais tendem a ter o maior alcance e impacto, com base em sua análise de 30 operações secretas de influência expostas desde o início de 2024. A IA pode acrescentar escala, eficiência, fluência linguística e acabamento editorial a essas campanhas. Os operadores podem explorar funcionários e editores que não têm ideia de quem está por trás do conteúdo ou quais são seus motivos.
Como a Escala IO Breakout classifica as operações de influência?
A Escala IO Breakout classifica operações secretas de influência de 1 (mais baixo) a 6 (mais alto) em alcance e impacto. A OpenAI classificou a operação de origem russa na Categoria 5 e a de origem iraniana na Categoria 4.
🇷🇺 Русский
OpenAI пресекла операции «ложного фронта» с использованием ИИ
OpenAI сообщает, что заблокировала две скрытые операции влияния, одну из России и одну из Ирана, которые использовали её модели вместе с традиционными методами для поддержки изощрённых структур «ложного фронта». Эти операции легализовывали геополитические и связанные с конфликтами сообщения, доводя их до целевой аудитории.
Иранская операция использовала семь персон «журналистов», чтобы предлагать развёрнутые статьи небольшим и средним онлайн-изданиям по всему миру, а также создавала пакеты комментариев в социальных сетях, в основном о войне между США и Ираном. Российская операция привлекла ничего не подозревавших людей в Латинской Америке для руководства «аналитическим центром» и создала поддельные «утёкшие» документы и аудиосценарии. Обе операции активно использовали ИИ для составления внутренних отчётов, часто применяя недобросовестные методы для преувеличения своей эффективности.
Эти операции во многом напоминали сложные информационные кампании доИИ-эпохи, например, фиктивную журналистку «Alice Donovan», связанную с российской военной разведкой, и издание «Peace Data», которое вели люди, связанные с российским Агентством интернет-исследований. По шкале IO Breakout OpenAI оценила российскую операцию в категорию 5, что стало первым случаем пресечения операции такого уровня, а иранская операция достигла категории 4. Обеим удалось разместить материалы в основных СМИ, а не только в социальных сетях.
OpenAI отмечает, что операции, размещающие контент в реальных СМИ, как правило, имеют наибольший охват и влияние, по данным её анализа 30 скрытых информационных операций, выявленных с начала 2024 года. ИИ может придать таким кампаниям масштаб, эффективность, языковую беглость и редакторскую отточенность. Организаторы могут использовать сотрудников и редакторов, которые не знают, кто стоит за контентом и каковы его мотивы.
Как шкала IO Breakout оценивает информационные операции?
Шкала IO Breakout оценивает скрытые информационные операции от 1 (самый низкий) до 6 (самый высокий) по охвату и влиянию. OpenAI отнесла российскую операцию к категории 5, а иранскую — к категории 4.
🇨🇳 简体中文
OpenAI破获借助AI运作的“虚假前台”行动
OpenAI报告称,它已封禁两起秘密影响力行动,一起来自俄罗斯,一起来自伊朗。这两起行动将其模型与传统手段结合,以支持精心设计的“虚假前台”实体。这些行动将地缘政治和冲突相关的信息洗白后推送给目标受众。
伊朗行动使用七个“记者”身份,向全球各地的中小型网络媒体推销长篇文章,并生成了大量关于美伊战争的社交媒体评论。俄罗斯行动则拉拢了拉丁美洲不知情的人员来运营一家“智库”,并制作了虚假的“泄露”文件和音频脚本。两者都大量使用AI起草内部报告,且常以欺骗性方法夸大其效果。
这些行动与AI出现之前的影响力活动非常相似,例如与俄罗斯军事情报机构有关联的虚假记者“Alice Donovan”,以及由与俄罗斯网络研究机构有关人员运营的“Peace Data”网站。OpenAI依据IO突破量表评估,俄罗斯背景的行动为第5级,这是其所破获的首个此级别行动;伊朗背景的行动为第4级。两者都设法将内容刊登在主流媒体上,而不仅仅依赖社交媒体。
OpenAI指出,根据其对自2024年初以来曝光的30起秘密影响力行动的审查,将内容投放到真实媒体的行动往往具有最高的覆盖面和影响力。AI可以为此类行动增加规模、效率、语言流畅度和编辑润色。行动者可能利用对幕后主使毫不知情、对内容动机也一无所知的员工和编辑。
IO突破量表如何评定影响力行动?
IO突破量表从1(最低)到6(最高)对秘密影响力行动的覆盖面和影响力进行评级。OpenAI将俄罗斯背景的行动评为第5级,将伊朗背景的行动评为第4级。