OpenAI berichtet, dass das Unternehmen zwei verdeckte Einflussoperationen gesperrt hat, eine aus Russland und eine aus dem Iran. Beide nutzten seine Modelle zusammen mit traditionellen Techniken, um ausgeklügelte „Scheinfassade“-Organisationen zu unterstützen. Mit ihrer Hilfe wurden geopolitische und konfliktbezogene Botschaften bei den Zielgruppen legitimiert.
Die iranische Operation nutzte sieben „Journalisten“-Identitäten, um lange Artikel an kleine und mittelgroße Online-Medien weltweit zu verkaufen. Außerdem erstellte sie Schwärme von Kommentaren in sozialen Medien, meist zum Krieg zwischen den USA und dem Iran. Die russische Operation band ahnungslose Menschen in Lateinamerika ein, um einen „Think Tank“ zu betreiben, und erstellte gefälschte „geleakte“ Dokumente und Audioskripte. Beide Operationen setzten stark auf KI, um interne Berichte zu verfassen, und nutzten dabei oft irreführende Methoden, um ihre Wirksamkeit zu übertreiben.
Die Operationen ähnelten stark komplexen Einflusskampagnen aus der Zeit vor der KI, etwa der gefälschten Journalistin „Alice Donovan“, die mit dem russischen Militärgeheimdienst in Verbindung stand, oder dem Portal „Peace Data“, das von Personen betrieben wurde, die mit der russischen Internet Research Agency verbunden waren. Anhand der IO-Breakout-Skala stufte OpenAI die russische Operation in Kategorie 5 ein, die erste dieser Stufe, die das Unternehmen aufgedeckt hat. Die iranische Operation erreichte Kategorie 4. Beide schafften es, Inhalte in etablierten Medien zu platzieren, statt sich nur auf soziale Netzwerke zu verlassen.
OpenAI stellt fest, dass Operationen, die ihre Inhalte in echten Medien unterbringen, laut einer Auswertung von 30 seit Anfang 2024 aufgedeckten verdeckten Einflussoperationen in der Regel die größte Reichweite und Wirkung haben. KI kann solchen Kampagnen mehr Umfang, Effizienz, sprachliche Gewandtheit und redaktionelle Politur verleihen. Die Urheber können Mitarbeitende und Redakteure ausnutzen, die nicht wissen, wer hinter den Inhalten steht oder welche Motive dahinterstecken.
Quelle: OpenAI Blog · Zusammengefasst von HeadlinesBriefing