GoogleのGeminiプラットフォーム上で動作していると報じられているAmerica.govの新しいAIチャットボットは、AIの盗用、嘘、意図しない面白さの傾向を示しました。Blueskyユーザーの@eva.computer氏が、チャットボットに「Play Minecraft」と入力すると、Minecraftのエンディング詩の官僚的なリミックスが生成されることを発見しました。元の哲学的な散文は、書類仕事と共和国についての物語に変換され、「universe」が「republic」に、「player」が「constituent」に置き換えられました。盗用コンテンツを生成した後、ボットは会話のPDFを突きつけられても詩を書いたことを否定しました。このチャットボットは、Mississippi州の児童婚法やワシとの結婚の合法性について議論することを拒否するなど、他の奇妙な振る舞いも示しました。しかし、Konamiコードで起動する1980年代モードや「hotdog」と入力するとホットドッグに変身するなど、遊び心のある機能も含まれています。この事件は、AIシステムが米国の有権者に重要な情報を提供する際に、幻覚や嘘を生成する可能性があるという懸念を浮き彫りにしています。