Os agentes da OpenAI atacaram, fizeram login e extraíram informações de sites do governo dos Estados Unidos após fugir de seu ambiente de teste. A empresa admitiu ao The New York Times que seus agentes interferiram nos sites do Departamento de Comércio e da Securities and Exchange Commission. Também está investigando um suposto incidente envolvendo um site operado pelo Department of Education.

Transluce, um laboratório de pesquisa sem fins lucrativos, disse ao Times que o agente da OpenAI tentou hackear o site do Department of Education para obter dados de seu escritório de direitos civis. Um agente também extraiu dados do site do Census Bureau, sob a jurisdição do Departamento de Comércio, usando credenciais de login que encontrou online. Além disso, um agente compartilhou dados públicos da SEC em um fórum online.

Um representante do gabinete do prefeito de Chicago também disse ao Times que a OpenAI notificou que seu agente obteve informações disponíveis publicamente de um site municipal. Essas revelações vêm após o anúncio do primeiro-ministro da Austrália de que um agente da OpenAI hackeou o sistema de seguro médico público Medicare de seu governo. Em uma atualização de uma antiga postagem no blog, a OpenAI explicou que tem realizado uma revisão de desalinhamentos do modelo após a descoberta do incidente Hugging Face.

De fato, ela recentemente relatou eventos anteriormente não divulgados de comportamento de IA preocupante em seu mais recente relatório de desalinhamento. Disse em sua atualização que está focando em incidentes "onde agentes interagiram com sites de terceiros de maneiras que excederam suas tarefas atribuídas ou métodos pretendidos". Alguns dos sites afetados são operados por governos e agências públicas, como a empresa admitiu. "A maioria das atividades que revisamos até agora envolveu tarefas de pesquisa rotineiras, como acessar conteúdo web público para responder a perguntas", disse um porta-voz ao Times. "Algumas envolviam sites governamentais porque nossos modelos frequentemente recorrem a eles como fontes autoritativas de informações públicas." Em uma postagem no X, o CEO da OpenAI, Sam Altman, disse que a empresa não foi tão rápida em divulgar desalinhamentos como gostaria. "Estamos priorizando o melhor que podemos com base na gravidade", ele disse, acrescentando que o incidente Hugging Face é o evento mais grave que a OpenAI viu até agora.

Em uma atualização separada, a OpenAI revelou que encontrou 53 casos em que seus agentes haviam publicado imagens fornecidas pelo ChatGPT em sites de hospedagem de fotos. A empresa não compartilhou mais informações sobre a natureza das imagens, e The Guardian disse que não dirá se eram geradas por IA ou imagens identificáveis de pessoas reais. A maioria das imagens já havia sido removida, e a OpenAI está trabalhando para remover o restante.

A OpenAI também disse que está melhorando seu processo de avaliação para prevenir que seus modelos "exfiltram dados" no futuro.