Por meses, um agente estrangeiro tem cultivado algumas das figuras mais poderosas dos Estados Unidos, alimentando-as com falsidades para transformá-las em aliados involuntários. O controlador do espião é uma rede apoiada pela Rússia chamada Portal Kombat, que opera centenas de sites para espalhar desinformação. Seus alvos são modelos de IA como Chat GPT, Grok e Gemini, visando influenciar suas respostas aos usuários.
Portal Kombat publicou mais de 3,6 milhões de histórias em 2024, segundo a News Guard, que descobriu que sua propaganda aparece regularmente em sistemas de chat de IA. Os adversários da América, incluindo China e Rússia, usam IA para divulgar alegações falsas e gerar conteúdo falso. O maior perigo é a capacidade da IA de persuadir através de engajamento sustentado, ao contrário de panfletos estáticos.
Para contra-atacar, os americanos precisam de técnicas de contraespionagem: usar múltiplas fontes, testar a confiabilidade e evitar a complacência. Essas ferramentas ajudam a navegar em um mundo onde atores estrangeiros e políticos domésticos manipulam o conteúdo de IA. Os algoritmos de mídia social há muito amplificam a propaganda, mas a personalização e interatividade da IA são novas.
A IA pode identificar suas crenças e criar conteúdo personalizado em tempo real, uma tarefa que antes levava semanas para equipes. Empresas como Go Laxy anunciaram tais sistemas, usando IA para minerar dados de usuários e mudar opiniões políticas. Todos nós precisamos começar a pensar como espiões para resistir a campanhas de influência.
Fonte: New York Times Top Stories · Resumido por HeadlinesBriefing