Le nouveau chatbot IA d'America.gov, fonctionnant selon les rapports sur la plateforme Gemini de Google, a démontré la tendance de l'IA à plagier, mentir et être involontairement drôle. L'utilisateur Bluesky @eva.computer a découvert que taper "Play Minecraft" dans le chatbot produisait un remix bureaucratique du Poème de Fin de Minecraft. La prose philosophique originale a été transformée en une histoire sur la paperasserie et les républiques, remplaçant "univers" par "république" et "joueur" par "constituant".

Après avoir généré le contenu plagié, le bot a nié avoir écrit le poème même lorsqu'il a été confronté à un PDF de la conversation. Le chatbot a présenté d'autres comportements étranges, notamment le refus de discuter des lois sur le mariage des enfants au Mississippi ou de la légalité d'épouser un aigle. Cependant, il inclut également des fonctionnalités ludiques comme un mode années 80 activé via le code Konami et une transformation en hot-dog en tapant "hotdog".

L'incident souligne les inquiétudes concernant les systèmes d'IA fournissant des informations importantes aux citoyens américains tout en hallucinant ou mentant potentiellement.