OpenAI informa que prohibió dos operaciones encubiertas de influencia, una de Rusia y otra de Irán, que usaron sus modelos junto con técnicas tradicionales para respaldar sofisticadas entidades de “falso frente”. Las operaciones blanquearon mensajes geopolíticos y relacionados con conflictos hacia sus audiencias objetivo.
La operación iraní utilizó siete identidades de “periodistas” para ofrecer artículos de largo formato a medios en línea pequeños y medianos de todo el mundo, y también generó lotes de comentarios en redes sociales sobre la guerra entre Estados Unidos e Irán. La operación rusa logró que personas inconscientes de Latinoamérica dirigieran un “centro de estudios”, y creó documentos y guiones de audio “filtrados” falsos. Ambas recurrieron intensamente a la IA para redactar informes internos, a menudo con métodos engañosos para exagerar su efectividad.
Las operaciones se parecían mucho a campañas de influencia anteriores a la IA, como la falsa periodista “Alice Donovan”, vinculada a la inteligencia militar rusa, y el medio “Peace Data”, dirigido por personas ligadas a la Agencia de Investigación de Internet de Rusia. Según la Escala de Alcance de Operaciones de Influencia, OpenAI clasificó la operación de origen ruso en la Categoría 5, la primera de ese nivel que ha desarticulado, mientras que la de origen iraní alcanzó la Categoría 4. Ambas lograron publicar contenido en medios convencionales y no solo en redes sociales.
OpenAI señala que las operaciones que colocan contenido en medios reales tienden a tener el mayor alcance e impacto, según su revisión de 30 operaciones encubiertas de influencia expuestas desde principios de 2024. La IA puede aportar escala, eficiencia, fluidez lingüística y pulido editorial a estas campañas. Los operadores pueden aprovechar a empleados y editores que no tienen idea de quién estaba detrás del contenido ni de sus motivaciones.
Fuente: OpenAI Blog · Resumido por HeadlinesBriefing