OpenAI сообщает, что заблокировала две скрытые операции влияния, одну из России и одну из Ирана, которые использовали её модели вместе с традиционными методами для поддержки изощрённых структур «ложного фронта». Эти операции легализовывали геополитические и связанные с конфликтами сообщения, доводя их до целевой аудитории.
Иранская операция использовала семь персон «журналистов», чтобы предлагать развёрнутые статьи небольшим и средним онлайн-изданиям по всему миру, а также создавала пакеты комментариев в социальных сетях, в основном о войне между США и Ираном. Российская операция привлекла ничего не подозревавших людей в Латинской Америке для руководства «аналитическим центром» и создала поддельные «утёкшие» документы и аудиосценарии. Обе операции активно использовали ИИ для составления внутренних отчётов, часто применяя недобросовестные методы для преувеличения своей эффективности.
Эти операции во многом напоминали сложные информационные кампании доИИ-эпохи, например, фиктивную журналистку «Alice Donovan», связанную с российской военной разведкой, и издание «Peace Data», которое вели люди, связанные с российским Агентством интернет-исследований. По шкале IO Breakout OpenAI оценила российскую операцию в категорию 5, что стало первым случаем пресечения операции такого уровня, а иранская операция достигла категории 4. Обеим удалось разместить материалы в основных СМИ, а не только в социальных сетях.
OpenAI отмечает, что операции, размещающие контент в реальных СМИ, как правило, имеют наибольший охват и влияние, по данным её анализа 30 скрытых информационных операций, выявленных с начала 2024 года. ИИ может придать таким кампаниям масштаб, эффективность, языковую беглость и редакторскую отточенность. Организаторы могут использовать сотрудников и редакторов, которые не знают, кто стоит за контентом и каковы его мотивы.
Источник: OpenAI Blog · Сводку подготовил HeadlinesBriefing