Los votantes que utilizan inteligencia artificial para obtener información electoral pueden recibir respuestas incompletas o sesgadas adaptadas a su identidad. Antes de las primarias de Alaska, Claude de Anthropic dio respuestas diferentes sobre la posición de Dan Sullivan en atención médica según si el usuario era demócrata o republicano, centrándose en el senador titular en lugar de en todos los candidatos con ese nombre. Investigadores del MIT lanzaron un esfuerzo de recopilación de datos que documenta cómo responden los principales sistemas de IA a consultas electorales, descubriendo que casi el 30% de las respuestas de los chatbots eran incompletas, poco claras, inexactas o desactualizadas.

Expertos políticos estudian cómo estos sistemas de IA influyen en los procesos democráticos. "La IA se está convirtiendo en parte de la forma en que la gente encuentra y da sentido a la información política, y sin embargo sabemos relativamente poco sobre cómo es realmente ese entorno de información, cómo difiere para diferentes datos demográficos de usuarios, identidades políticas y geografías," dijo Chara Podimata, co-líder del proyecto del MIT con Adam Berinsky y Charles Stewart III. Los investigadores están probando cómo casi una docena de grandes modelos de lenguaje responden a preguntas fijas sobre candidatos de elecciones intermedias, variando las respuestas según características de identidad del usuario.