Wähler, die künstliche Intelligenz für Wahlinformationen nutzen, können unvollständige oder voreingenommene Antworten erhalten, die auf ihre Identität zugeschnitten sind. Vor Alaskas Vorwahl gab Claudes von Anthropic unterschiedliche Antworten zu Dan Sullivans Gesundheitspolitik, je nachdem, ob der Nutzer Demokrat oder Republikaner war, und fokussierte auf den amtierenden Senator statt auf alle Kandidaten mit diesem Namen. MIT-Forscher starteten eine Datensammel-Initiative, die dokumentiert, wie große KI-Systeme auf Wahlanfragen reagieren, und fanden, dass fast 30% der Chatbot-Antworten unvollständig, unklar, ungenau oder veraltet waren.

Politische Experten untersuchen, wie diese KI-Systeme demokratische Prozesse beeinflussen. "K. I. wird Teil der Art, wie Menschen auf politische Informationen stoßen und sie verstehen, und doch wissen wir relativ wenig darüber, wie diese Informationsumgebung tatsächlich aussieht, wie sie sich für verschiedene Nutzerdemografien, politische Identitäten und Geografien unterscheidet," sagte Chara Podimata, die das MIT-Projekt mit Adam Berinsky und Charles Stewart III co-leitet. Die Forscher testen, wie fast ein Dutzend große Sprachmodelle auf feste Fragen zu Midterm-Kandidaten reagieren, wobei die Antworten basierend auf Nutzeridentitätsmerkmalen variiert werden.