В течение нескольких месяцев иностранный агент обрабатывал некоторых из самых влиятельных фигур в Соединенных Штатах, вскармливая им ложь, чтобы превратить их в невольных союзников. Руководителем шпиона является поддерживаемая Россией сеть под названием Portal Kombat, которая управляет сотнями веб-сайтов для распространения дезинформации. Ее цели — модели ИИ, такие как Chat GPT, Grok и Gemini, с целью повлиять на их ответы пользователям.
Portal Kombat продвинула более 3,6 миллионов историй в 2024 году, согласно News Guard, которая обнаружила, что ее пропаганда регулярно появляется в системах чатов ИИ. Противники Америки, включая Китай и Россию, используют ИИ для продвижения ложных утверждений и создания поддельного контента. Самая большая опасность — способность ИИ убеждать через устойчивое взаимодействие, в отличие от статичных листовок.
Чтобы дать отпор, американцам нужны методы контрразведки: использование нескольких источников, проверка надежности и избегание самоуспокоенности. Эти инструменты помогают ориентироваться в мире, где иностранные субъекты и внутренние политики манипулируют контентом ИИ. Алгоритмы социальных сетей давно усиливают пропаганду, но персонализация и интерактивность ИИ — это новое.
ИИ может идентифицировать ваши убеждения и создавать персонализированный контент в реальном времени — задача, на которую раньше у команд уходили недели. Такие компании, как Go Laxy, рекламировали подобные системы, используя ИИ для извлечения пользовательских данных и изменения политических мнений. Всем нам нужно начать думать как шпионы, чтобы противостоять кампаниям влияния.
Источник: New York Times Top Stories · Сводку подготовил HeadlinesBriefing