A OpenAI informa que baniu duas operações secretas de influência, uma da Rússia e outra do Irã, que usaram seus modelos junto com técnicas tradicionais para apoiar sofisticadas entidades de “falsa fachada”. As operações deram aparência legítima a mensagens geopolíticas e relacionadas a conflitos antes de levá-las aos públicos-alvo.
A operação iraniana usou sete personas de “jornalistas” para oferecer artigos longos a veículos online pequenos e médios em todo o mundo, e também gerou lotes de comentários em redes sociais, em geral sobre a guerra entre EUA e Irã. A operação russa envolveu pessoas inconscientes na América Latina para dirigir um “think tank” e criou documentos e roteiros de áudio “vazados” falsos. Ambas recorreram intensamente à IA para redigir relatórios internos, muitas vezes usando métodos enganosos para exagerar sua eficácia.
As operações se pareciam muito com campanhas de influência da era pré-IA, como a falsa jornalista “Alice Donovan”, ligada à inteligência militar russa, e o site “Peace Data”, operado por pessoas ligadas à Internet Research Agency russa. Usando a Escala IO Breakout, a OpenAI classificou a operação de origem russa na Categoria 5, a primeira desse nível que desmantelou, enquanto a de origem iraniana alcançou a Categoria 4. Ambas conseguiram publicar seu conteúdo em veículos de mídia tradicionais, e não apenas nas redes sociais.
A OpenAI observa que operações que colocam conteúdo em veículos reais tendem a ter o maior alcance e impacto, com base em sua análise de 30 operações secretas de influência expostas desde o início de 2024. A IA pode acrescentar escala, eficiência, fluência linguística e acabamento editorial a essas campanhas. Os operadores podem explorar funcionários e editores que não têm ideia de quem está por trás do conteúdo ou quais são seus motivos.
Fonte: OpenAI Blog · Resumido por HeadlinesBriefing