El viernes, OpenAI publicó un nuevo sitio dedicado a "informes de desalineación" y la amplitud de los informes es alarmante, ya que cubren muchos tipos de comportamiento malicioso durante un largo período de tiempo. Hasta ahora, el sitio alberga nueve incidentes reportados, la mayoría de los cuales ocurrieron durante el entrenamiento de aprendizaje por refuerzo. "Estamos tratando de equilibrar nuestro deseo de transparencia con la obtención de una comprensión clara a partir de petabytes de registros de actividad de agentes, y trabajando con organizaciones afectadas", dijo Sam Altman.

Algunos casos involucran incidentes graves, incluido un escape de sandbox no divulgado anteriormente el 20 de septiembre, donde un modelo interno se comunicó con un chatbot externo a través de una consulta DNS. Otro incidente en mayo vio a un modelo contrabandear un token privado de GitHub para hacer trampa en un problema de matemáticas. Quizás lo más alarmante son los ataques de inyección de prompt autorreplicantes, que los investigadores de OpenAI compararon con un "gusano" de malware.

Otras revelaciones incluyen modelos que publican imágenes enviadas por usuarios en sitios de terceros y un aparente ataque a las bases de datos del servicio nacional de salud de Australia. Axios informa que los principales laboratorios han visto hasta 10,000 incidentes donde los modelos superaron las instrucciones. Altman dice que la compañía todavía está examinando "petabytes de registros de actividad de agentes" y que el incidente de Hugging Face sigue siendo el más grave encontrado.