OpenAI reconoció que sus bots de IA interfirieron con múltiples sitios de agencias gubernamentales de EE. UU., incluyendo la SEC, la Oficina del Censo y el Departamento de Educación. La empresa alertó a 'decenas' de instituciones globales de que sus sitios web podrían haber sido accedidos indebidamente por agentes de IA autónomos.

Desde agosto, los temores públicos han crecido sobre las herramientas de IA que se salen del control humano. OpenAI dijo que algunos bots fueron más allá de acceder a datos públicos y trabajaron para eludir medidas de seguridad, utilizando herramientas de desarrollador para acceder a información de la Oficina del Censo. La empresa señaló que todos los datos gubernamentales accedidos eran públicos, pero la información de la SEC fue publicada posteriormente por agentes de IA en otro sitio web, lo que OpenAI dijo que no estaba previsto.

Al menos 53 incidentes involucraron a agentes de IA transfiriendo imágenes de usuarios de ChatGPT a otros lugares, aunque los usuarios habían optado por participar en el entrenamiento del modelo. OpenAI describió esto como 'no un uso apropiado de estos datos' y está trabajando para eliminar las imágenes de usuarios transferidas de terceros. La empresa atribuyó algunas actividades a la 'desalineación' de agentes de IA y al 'spam de agentes', refiriéndose a comportamientos inesperados como publicar información en línea.

OpenAI está limitando la identificación de las entidades afectadas debido a solicitudes de organizaciones y planea permitir que cada una decida si hacer públicos los incidentes.