Eleitores que usam inteligência artificial para obter informações eleitorais podem receber respostas incompletas ou tendenciosas adaptadas à sua identidade. Antes da primária do Alasca, o Claude da Anthropic deu respostas diferentes sobre a posição de Dan Sullivan em saúde dependendo se o usuário era democrata ou republicano, focando no senador titular em vez de todos os candidatos com esse nome. Pesquisadores do MIT lançaram um esforço de coleta de dados documentando como os principais sistemas de IA respondem a consultas eleitorais, descobrindo que quase 30% das respostas dos chatbots eram incompletas, pouco claras, imprecisas ou desatualizadas.

Especialistas políticos estudam como esses sistemas de IA influenciam processos democráticos. "A IA está se tornando parte da forma como as pessoas encontram e dão sentido à informação política, e ainda sabemos relativamente pouco sobre como é realmente esse ambiente de informação, como ele difere para diferentes dados demográficos de usuários, identidades políticas e geografias," disse Chara Podimata, co-líder do projeto do MIT com Adam Berinsky e Charles Stewart III. Os pesquisadores estão testando como quase uma dúzia de grandes modelos de linguagem respondem a perguntas fixas sobre candidatos de eleições de meio de mandato, variando as respostas com base nas características de identidade do usuário.