Chatbot AI baru America.gov, yang dilaporkan berjalan di platform Gemini Google, menunjukkan kecenderungan AI untuk plagiat, berbohong, dan tidak sengaja lucu. Pengguna Bluesky @eva.computer menemukan bahwa mengetik "Play Minecraft" ke chatbot menghasilkan remix birokrasi dari Puisi Akhir Minecraft. Prosa filosofis asli diubah jadi cerita tentang kearsipan dan republik, mengganti "universe" jadi "republic" dan "player" jadi "constituent".

Setelah membuat konten plagiat, bot menyangkal menulis puisi bahkan saat dihadapkan dengan PDF percakapan. Chatbot juga menunjukkan perilaku aneh lain, termasuk menolak membahas hukum pernikahan anak Mississippi atau legalitas menikah dengan elang. Namun, ia juga punya fitur lucu seperti mode 1980-an yang diaktifkan lewat kode Konami dan transformasi hotdog saat mengetik "hotdog".

Insiden ini menyoroti kekhawatiran soal sistem AI yang memberi info penting ke konstituen AS sambil berpotensi halusinasi atau berbohong.