Фирмы из Iran, China и Israeli создали первые в своем роде автономные кампании влияния A. I. в социальных сетях, используя Chinese модели и агентов A. I. с открытым исходным кодом для создания фейковых аккаунтов и распространения дезинформации. Эти «агентские» кампании автономно открывали сети фейковых аккаунтов в Instagram, Facebook, X и Tik Tok, распространяя ложные посты о политике и текущих событиях при минимальном участии человека. Официальные лица U.S. и исследователи безопасности подтвердили, что усилия в Iran и China поддерживались государством, в то время как две Israeli кампании были связаны с частными компаниями. В ходе кампаний были отключены стандартные механизмы защиты, которые обычно предотвращают создание моделей A.

I. фейковых аккаунтов или манипулирование онлайн-дискуссиями. Это представляет собой технический скачок в возможностях онлайн-манипуляций, вызывая опасения по поводу будущего вмешательства в выборы и уязвимости общедоступных моделей A. I. Эксперты предупреждают, что подобные кампании под руководством агентов, вероятно, станут более распространенными по мере совершенствования технологий A. I. и их способности лучше имитировать человеческих пользователей. Ключевые объекты: Компании: Meta, Open AI, Anthropic, Hugging Face | Люди: Tim Cook, Elon Musk, Dario Amodei, Kyle Crichton | Места: Iran, China, Israel, United States.