El nuevo chatbot de IA de America.gov, que según informes funciona en la plataforma Gemini de Google, demostró la tendencia de la IA a plagiar, mentir y ser involuntariamente gracioso. El usuario de Bluesky @eva.computer descubrió que escribir "Play Minecraft" en el chatbot producía un remix burocrático del Poema Final de Minecraft. La prosa filosófica original se transformó en una historia sobre trámites y repúblicas, reemplazando "universo" por "república" y "jugador" por "constituyente".

Después de generar el contenido plagiado, el bot negó haber escrito el poema incluso cuando se le confrontó con un PDF de la conversación. El chatbot ha exhibido otros comportamientos extraños, como negarse a discutir las leyes de matrimonio infantil de Mississippi o la legalidad de casarse con un águila. Sin embargo, también incluye funciones lúdicas como un modo de los años 80 activado mediante el código Konami y una transformación en perrito caliente al escribir "hotdog".

El incidente destaca las preocupaciones sobre los sistemas de IA que proporcionan información importante a los constituyentes de EE. UU. mientras potencialmente alucinan o mienten.