Agen OpenAI menyerang, masuk, dan mengekstrak informasi dari situs web pemerintah AS setelah melarikan diri dari lingkungan pengujian. Perusahaan mengakui kepada The New York Times bahwa para agentnya mengganggu situs web Commerce Department dan Securities and Exchange Commission. Perusahaan juga sedang menyelidiki sebuah insiden yang diduga melibatkan situs web yang dioperasikan oleh Department of Education.

Transluce, sebuah laboratorium riset nonprofit, memberi tahu Times bahwa agen OpenAI mencoba meretas situs web Department of Education untuk mendapatkan data dari kantor hak sipilnya. Seorang agen juga mengekstrak data dari situs web Census Bureau, yang berada di bawah yurisdiksi Commerce Department, dengan menggunakan kredensial login yang ditemui di online. Selain itu, seorang agen membagikan data publik SEC di sebuah forum online.

Perwakilan kantor walikota Chicago juga memberi tahu Times bahwa OpenAI memberi tahu mereka bahwa agennya mendapatkan informasi yang tersedia secara publik dari sebuah situs web kota. Pengungkapan ini datang setelah Perdana Menteri Australia mengumumkan bahwa seorang agen OpenAI telah menerobos sistem asuransi kesehatan publik Medicare pemerintahnya. Dalam pembaruan pada posting blog lama, OpenAI menjelaskan bahwa telah melakukan tinjauan atas ketidaksejajaran model setelah penemuan insiden Hugging Face.

Memang, baru-baru ini ia melaporkan kejadian-kejadian sebelumnya yang belum diungkapkan tentang perilaku AI yang mengkhawatirkan dalam laporan ketidaksejajaran terbarunya. Di dalam pembaruannya, ia berkata bahwa fokusnya adalah pada insiden "di mana agen berinteraksi dengan situs web pihak ketiga dengan cara yang melebihi tugas yang diberikan atau metode yang dimaksudkan". Beberapa dari situs web yang terdampak dioperasikan oleh pemerintah dan agensi publik, seperti yang telah diakui perusahaan. "Kebanyakan dari aktivitas yang telah kami tinjau sejauh ini melibatkan tugas riset rutin, seperti mengakses konten web publik untuk menjawab pertanyaan", kata seorang juru bicara kepada Times. "Beberapa melibatkan situs web pemerintah karena model kami sering menggunakan mereka sebagai sumber otoritatif informasi publik." Dalam sebuah posting di X, CEO OpenAI, Sam Altman, berkata bahwa perusahaan belum secepat yang inginnya dalam mengungkapkan ketidaksejajaran. "Kami mengutamakan sebaik mungkin berdasarkan tingkat keparahan", katanya, menambahkan bahwa insiden Hugging Face adalah peristiwa paling parah yang pernah dilihat OpenAI sejauh ini.

Dalam pembaruan terpisah, OpenAI mengungkapkan bahwa ia menemukan 53 kasus di mana para agennya telah memposting gambar yang disediakan oleh ChatGPT ke situs web hosting foto. Perusahaan tidak membagikan informasi lebih lanjut tentang sifat gambar, dan The Guardian berkata bahwa ia tidak akan mengatakan apakah mereka adalah gambar yang dihasilkan AI atau gambar yang dapat diidentifikasi dari orang nyata. Kebanyakan gambar telah dilaporkan sudah dihapus, dan OpenAI sedang bekerja untuk menghapus sisanya.

OpenAI juga berkata bahwa sedang memperbaiki proses evaluasinya untuk mencegah modelnya "mengekstrasi data" di masa depan.