OpenAI erklärte am Donnerstag, dass eine Reihe von Meinungsbeiträgen, die den Krieg mit dem Iran kritisierten und unter gefälschten Autorenzeilen in US-Medien erschienen, mit seinem Chatbot ChatGPT von Nutzern mit Sitz im Iran erstellt wurde – als Teil einer "Einflusskampagne". Die Kampagne habe rund 100 gefälschte Artikel in mindestens 20 Nachrichtenmedien platziert, so das Unternehmen. Eine der Autorenzeilen, Ervin Hoskins, erschien in der Port St. Joe Star, einer Wochenzeitung in Florida, sowie auf Daily Kos und Middle East Monitor, die zusammen mehr als 3 Millionen Follower auf Facebook haben. Laut dem Verifizierungstool von OpenAI wurde auch das vom Star verwendete Autorenfoto mit Werkzeugen des Unternehmens erzeugt.
Der Herausgeber des Star, David Adlerstein, sagte, die Kolumne sei ihm von Peace Voice angeboten worden, einem kleinen liberalen Think Tank aus Oregon, der der Zeitung seit Jahren Inhalte geschickt habe. Wegen dieser Beziehung habe er die Identität des Autors nicht überprüft. Tom Hastings, Gründungsdirektor von Peace Voice, sagte, die Organisation habe ihre bestehende KI-Verbotsrichtlinie verschärft, nachdem OpenAI sich bei ihm gemeldet habe.
OpenAI teilte mit, die Konten hinter der Kampagne gesperrt zu haben und den Zugriff auf ChatGPT aus dem Iran zu blockieren. Die Aktivität sei mit einem kommerziellen Akteur vereinbar, der eine bezahlte Einflusskampagne betreibe, doch der konkrete Akteur lasse sich nicht identifizieren. Die Informationen seien an die zuständigen Behörden weitergegeben worden. Middle East Monitor und Daily Kos entfernten die Artikel. Daily-Kos-Gründer Markos Moulitsas nannte die Kampagne "unglaublich zersetzend" für seine Plattform, auf der Beiträge der Community vor der Veröffentlichung nicht von der Redaktion geprüft werden.
Der Vorfall reiht sich in frühere Fälle ein, in denen Business Insider und Wired KI-generierte Artikel entfernten, die unter der gefälschten Autorenzeile Margaux Blanchard erschienen waren. Solche Vorfälle zeigen, wie KI-Werkzeuge erfundenen Personen helfen können, redaktionelle Kontrollen zu passieren, insbesondere bei kleineren Medien, die auf externe Beiträge angewiesen sind.
Quelle: Hacker News · Zusammengefasst von HeadlinesBriefing