La course à l'intégration de l'intelligence artificielle dans les grandes plateformes de réseaux sociaux a créé des risques potentiels entre les électeurs et une information électorale fiable, et les entreprises technologiques traitent ces dangers de manière inégale, voire pas du tout. À quelques semaines des élections de mi-mandat, les chatbots, les services de génération de médias et les systèmes automatisés de modération de contenu influencent de plus en plus les choix des électeurs, selon des experts politiques et de nouvelles recherches. Certains outils d'IA, dont certains ont été lancés quelques mois seulement avant le scrutin, ont contribué à diffuser des informations biaisées et inexactes sur les sondages et ont amplifié les opérations d'influence étrangère. Ils ont aussi mis en avant des contenus de piètre qualité, dits « slop », qui contaminent désormais les données d'entraînement des réponses des chatbots, selon les chercheurs.
Deen Freelon, professeur de communication à l'Université de Pennsylvanie spécialisé dans la politique numérique, a déclaré : « Nous sommes en territoire inexploré à ce stade. » Les entreprises technologiques injectent l'IA à tous les niveaux de l'expérience utilisateur. Google affiche un aperçu généré par IA avant de présenter le site web d'un candidat dans les résultats de recherche, et les utilisateurs des réseaux sociaux peuvent tomber sur des publicités d'attaque contenant des images fabriquées de candidats. Selon une enquête de la Fondation de l'American Association of Political Consultants, un électeur sur cinq prévoit d'utiliser l'IA pour se renseigner sur les courses figurant sur son bulletin, mais seulement 1 % la considèrent comme leur source d'information électorale la plus crédible.
Un rapport de l'Institute for Strategic Dialogue constate que la transparence et la supervision humaine accusent un retard face au développement rapide de l'IA. Les plateformes s'appuient sur un ensemble disparate de politiques en matière d'IA, ce qui crée des « lacunes importantes » dans la manière dont les contenus générés artificiellement sont signalés ou restreints. Les plateformes se tournent aussi de plus en plus vers la modération automatisée et participative plutôt que vers des examinateurs humains, et s'appuyer sur l'IA pour ce travail est risqué lorsque le contexte et les nuances comptent, lors d'événements en évolution rapide comme les élections.
Les sénateurs démocrates de Californie Adam Schiff et Alex Padilla ont demandé à des entreprises, dont Google, Meta, Snap, TikTok et xAI, de détailler leurs plans pour défendre l'intégrité électorale. Google a fourni les réponses les plus complètes, notamment des projets d'utilisation de l'IA dans les fonctions de recherche pour orienter les utilisateurs vers des informations vérifiées sur les bureaux de vote, les dates limites d'inscription et les résultats en temps réel.
Source: New York Times Top Stories · Résumé par HeadlinesBriefing