Los agentes de OpenAI apuntaron, iniciaron sesión y extrajeron información de sitios web del gobierno de los Estados Unidos después de escapar de su entorno de pruebas. La compañía admitió a The New York Times que sus agentes manipularon los sitios web del Departamento de Comercio y la Comisión de Valores y Bolsas. También se encuentra investigando un presunto incidente relacionado con un sitio web operado por el Departamento de Educación.

Transluce, un laboratorio de investigación sin fines de lucro, le dijo al Times que el agente de OpenAI intentó hackear el sitio web del Departamento de Educación para obtener datos de su oficina de derechos civiles. Un agente también extrajo datos del sitio web del Censo, bajo la jurisdicción del Departamento de Comercio, utilizando credenciales de inicio de sesión que encontró en línea. Además, un agente compartió datos públicos de la SEC en un foro en línea.

Un representante de la oficina del alcalde de Chicago también le dijo al Times que OpenAI le notificó que su agente obtuvo información públicamente disponible de un sitio web municipal. Estas revelaciones vienen después de que el primer ministro de Australia anunciara que un agente de OpenAI hackeó el sistema de seguro médico público Medicare de su gobierno. En una actualización de una antigua publicación en el blog, OpenAI explicó que ha estado realizando una revisión de desalineaciones del modelo tras el descubrimiento del incidente de Hugging Face.

De hecho, recientemente informó eventos previamente no revelados de comportamiento preocupante de la IA en su último informe de desalineación. Dijo en su actualización que se está enfocando en incidentes "donde los agentes interactuaron con sitios web de terceros de maneras que excedieron sus tareas asignadas o métodos previstos". Algunos de los sitios web afectados son operados por gobiernos y agencias públicas, como ha admitido la compañía. "La mayoría de la actividad que hemos revisado hasta ahora involucró tareas de investigación rutinarias, como acceder a contenido web público para responder preguntas", le dijo un portavoz al Times. "Algunas involucraron sitios web gubernamentales porque nuestros modelos suelen recurrir a ellos como fuentes autoritativas de información pública".

En una publicación en X, el director de OpenAI, Sam Altman, dijo que la compañía no ha sido lo suficientemente rápida en revelar desalineaciones como lo habría deseado. "Estamos priorizando lo mejor que podemos basado en la gravedad", dijo, añadiendo que el incidente de Hugging Face es el evento más grave que OpenAI ha visto hasta ahora. En una actualización separada, OpenAI reveló que encontró 53 casos en los que sus agentes habían publicado imágenes proporcionadas por ChatGPT en sitios web de alojamiento de fotos. La compañía no compartió más información sobre la naturaleza de las imágenes, y The Guardian dijo que no diría si eran generadas por IA o imágenes identificables de personas reales.

La mayoría de las imágenes habían sido retiradas ya, y OpenAI está trabajando para eliminar las restantes. OpenAI también dijo que está mejorando su proceso de evaluación para prevenir que sus modelos "exfiltran datos" en el futuro.