OpenAI dijo el jueves que una serie de artículos de opinión críticos con la guerra de Irán, publicados bajo firmas falsas en medios estadounidenses, fueron generados con su chatbot ChatGPT por usuarios con sede en Irán como parte de una "campaña de influencia". La compañía afirmó que la campaña colocó unos 100 artículos falsos en al menos 20 medios de comunicación. Una de las firmas, Ervin Hoskins, apareció en el Port St. Joe Star, un semanario de Florida, así como en Daily Kos y Middle East Monitor, que en conjunto tienen más de 3 millones de seguidores en Facebook. Según la herramienta de verificación de OpenAI, la foto del autor utilizada por el Star también fue generada con las herramientas de la compañía.
El editor del Star, David Adlerstein, dijo que la columna le fue propuesta por Peace Voice, un pequeño think tank liberal de Oregón que le había enviado contenidos al periódico durante años. Debido a esa relación, no verificó la identidad del autor. Tom Hastings, director fundador de Peace Voice, afirmó que la organización reforzó su política de no utilizar IA después de que OpenAI se pusiera en contacto con él.
OpenAI dijo que prohibió las cuentas detrás de la campaña y que bloquea el acceso a ChatGPT desde Irán. La compañía señaló que la actividad era coherente con un actor comercial que dirige una operación de influencia por encargo, pero que no pudo identificar al responsable y que había compartido la información con las autoridades competentes. Middle East Monitor y Daily Kos eliminaron los artículos. El fundador de Daily Kos, Markos Moulitsas, calificó la campaña de "increíblemente corrosiva" para su plataforma, donde las publicaciones de la comunidad no son revisadas por el personal antes de publicarse.
El episodio se suma a casos anteriores en los que Business Insider y Wired retiraron artículos generados por IA publicados con la firma falsa Margaux Blanchard. Este tipo de incidentes muestra cómo las herramientas de IA pueden ayudar a que personajes fabricados superen los controles editoriales, especialmente en medios pequeños que dependen de colaboraciones externas.
Fuente: Hacker News · Resumido por HeadlinesBriefing