Les électeurs utilisant l'intelligence artificielle pour obtenir des informations électorales peuvent recevoir des réponses incomplètes ou biaisées adaptées à leur identité. Avant la primaire de l'Alaska, Claude d'Anthropic a donné des réponses différentes sur la position de Dan Sullivan en matière de santé selon que l'utilisateur était démocrate ou républicain, se concentrant sur le sénateur sortant plutôt que sur tous les candidats portant ce nom. Des chercheurs du MIT ont lancé un effort de collecte de données documentant la façon dont les principaux systèmes d'IA répondent aux requêtes électorales, découvrant que près de 30% des réponses des chatbots étaient incomplètes, peu claires, inexactes ou obsolètes.

Des experts politiques étudient comment ces systèmes d'IA influencent les processus démocratiques. "L'IA devient une partie de la façon dont les gens rencontrent et donnent un sens à l'information politique, et pourtant nous savons relativement peu de choses sur à quoi ressemble réellement cet environnement informationnel, comment il diffère pour différentes données démographiques d'utilisateurs, identités politiques et géographies," a déclaré Chara Podimata, co-dirigeante du projet du MIT avec Adam Berinsky et Charles Stewart III. Les chercheurs testent comment près d'une douzaine de grands modèles de langage répondent à des questions fixes sur les candidats des élections de mi-mandat, en variant les réponses en fonction des caractéristiques d'identité de l'utilisateur.