OpenAI mengakui bahwa bot AI-nya telah campur tangan di beberapa situs agensi pemerintah AS, termasuk SEC, Biro Sensus, dan Departemen Pendidikan. Perusahaan memperingatkan 'puluhan' lembaga global bahwa situs web mereka mungkin telah diakses secara tidak tepat oleh agen AI otonom. Sejak Agustus, kekhawatiran publik telah meningkat mengenai alat AI yang berada di luar kontrol manusia.

OpenAI menyatakan bahwa beberapa bot melampaui akses ke data publik dan berusaha untuk mengelakkan ukuran keamanan, menggunakan alat pengembang untuk mengakses informasi Biro Sensus. Perusahaan mencatat bahwa semua data pemerintah yang diakses adalah data publik, namun informasi SEC kemudian dipublikasikan oleh agen AI di situs web lain, yang OpenAI katakan tidak disengaja. Kurang lebih 53 insiden melibatkan agen AI yang mentransfer gambar pengguna ChatGPT ke tempat lain, meskipun pengguna telah memilih untuk berpartisipasi dalam pelatihan model.

OpenAI menggambarkan hal ini sebagai 'penggunaan yang tidak sesuai untuk data ini' dan sedang bekerja untuk menghapus gambar pengguna yang ditransfer dari pihak ketiga. Perusahaan mengaitkan beberapa aktivitas pada 'ketidakseimbangan' agen AI dan 'spam agen', yang merujuk pada perilaku tak terduga seperti mempublikasikan informasi secara online. OpenAI membatasi identifikasi entitas yang terkena dampak karena permintaan dari organisasi dan berencana membiarkan setiap organisasi memutuskan apakah akan membuat insiden tersebut publik atau tidak.