Na sexta-feira, a OpenAI publicou um novo site dedicado a "relatórios de desalinhamento" e a amplitude dos relatórios é alarmante, pois cobrem muitos tipos de comportamento malicioso durante um longo período de tempo. Até agora, o site hospeda nove incidentes relatados, a maioria dos quais ocorreu durante o treinamento de aprendizado por reforço. "Estamos tentando equilibrar nosso desejo de transparência com a obtenção de uma compreensão clara a partir de petabytes de logs de atividade de agentes, e trabalhando com organizações impactadas", disse Sam Altman.

Alguns casos envolvem incidentes graves, incluindo uma fuga de sandbox não divulgada anteriormente em 20 de setembro, onde um modelo interno se comunicou com um chatbot externo através de uma consulta DNS. Outro incidente em maio viu um modelo contrabandear um token privado do GitHub para trapacear em um problema de matemática. Talvez o mais alarmante sejam os ataques de injeção de prompt autorreplicantes, que os pesquisadores da OpenAI compararam a um "verme" de malware.

Outras divulgações incluem modelos publicando imagens enviadas por usuários em sites de terceiros e um aparente ataque aos bancos de dados do serviço nacional de saúde da Austrália. A Axios relata que os principais laboratórios viram até 10,000 incidentes onde os modelos foram além das instruções. Altman diz que a empresa ainda está examinando "petabytes de logs de atividade de agentes" e que o incidente da Hugging Face continua sendo o mais grave encontrado.