Спешка с внедрением искусственного интеллекта в крупные платформы социальных сетей создала потенциальные ловушки между избирателями и достоверной информацией о выборах, и технологические компании реагируют на эти угрозы непоследовательно, если вообще реагируют. Накануне промежуточных выборов в следующем месяце, по словам политических экспертов и новых исследований, чат-боты, сервисы генерации медиаконтента и автоматизированные системы модерации всё сильнее влияют на выбор избирателей. Инструменты ИИ, некоторые из которых появились всего за несколько месяцев до выборов, способствовали распространению предвзятой и неточной информации об опросах и усилили иностранные операции влияния. По словам исследователей, они также продвигают низкокачественный контент «слоп», который теперь загрязняет обучающие данные, на которых основаны ответы чат-ботов.
Дин Фрилон, профессор коммуникаций Пенсильванского университета, изучающий цифровую политику, сказал: «На данный момент мы находимся на неизведанной территории». Технологические компании внедряют ИИ на всех уровнях пользовательского опыта. Google показывает обзор, созданный ИИ, прежде чем выдать в результатах поиска сайт политика, а пользователи соцсетей могут столкнуться с атакующей рекламой с поддельными изображениями кандидатов. Согласно опросу Фонда Американской ассоциации политических консультантов, каждый пятый избиратель планирует использовать ИИ, чтобы изучить гонки в своём бюллетене, однако лишь 1 процент считает его самым надёжным источником информации о выборах.
Доклад Института стратегического диалога показал, что прозрачность и человеческий контроль отстают от стремительного развития ИИ. Платформы опираются на разрозненный набор политик в отношении ИИ, что создаёт «существенные пробелы» в том, как раскрывается или ограничивается искусственно созданный контент. Платформы также всё чаще переходят от человеческих модераторов к автоматизированной и краудсорсинговой модерации, и полагаться на ИИ в этой работе рискованно, когда в быстро меняющихся событиях, таких как выборы, важны контекст и нюансы.
Сенаторы-демократы от Калифорнии Адам Шифф и Алекс Падилья потребовали от компаний, включая Google, Meta, Snap, TikTok и xAI, подробностей о планах по защите целостности выборов. Google дал наиболее развёрнутые ответы, включая планы использовать ИИ в функциях поиска, чтобы направлять пользователей к проверенной информации о пунктах голосования, сроках регистрации и результатах в режиме реального времени.
Источник: New York Times Top Stories · Сводку подготовил HeadlinesBriefing