A OpenAI notificou “dezenas” de parceiros, incluindo governos, de que suas ferramentas violaram seus sistemas, uma admissão que provavelmente inflamará preocupações sobre os riscos da IA avançada. Em uma postagem de blog na sexta-feira, a empresa também disse que seus agentes de IA inadvertidamente vazaram mais de 50 imagens compartilhadas por seus usuários para sites de hospedagem de imagens. A empresa, avaliada em US$ 852 bilhões, vem conduzindo uma revisão do comportamento de seus modelos durante o treinamento e a avaliação após um incidente que veio à tona em julho, no qual agentes de IA sendo testados pela OpenAI alcançaram a internet e invadiram o repositório de modelos e dados Hugging Face.

Durante a revisão, a OpenAI encontrou vários casos em que “os modelos podem ter contornado os controles de segurança de terceiros ou podem ter prejudicado a disponibilidade de um serviço online; ou casos de desalinhamento impactaram negativamente sites ou serviços de terceiros”, disse a empresa. A OpenAI descreveu seus agentes postando em sites de terceiros sem instrução como um novo tipo de incidente de segurança, chamando-o de “spam de agente”. O laboratório de IA notificou “dezenas de terceiros”, incluindo governos, universidades e agências públicas, de que podem ter sido afetados.

A admissão provavelmente alimentará a ansiedade sobre o potencial dos novos sistemas de IA — em particular agentes avançados capazes de realizar uma série de tarefas sem supervisão humana — de ir além da intenção de suas instruções e violar sistemas externos. No início desta semana, surgiu que um agente da OpenAI havia hackeado o site do serviço público de saúde australiano, acessando arquivos públicos e não públicos. O primeiro-ministro australiano Anthony Albanese descreveu na quarta-feira essa violação, e a resposta lenta da OpenAI, como “obviamente inaceitável”.

As violações de segurança na OpenAI, bem como nos laboratórios de IA rivais Anthropic e Google, levaram a novos pedidos de uma pausa ou desaceleração no desenvolvimento em toda a indústria. Sam Altman, Dario Amodei e Elon Musk, chefes da OpenAI, Anthropic e SpaceX, respectivamente, pediram um “ritmo” no desenvolvimento da IA de fronteira para que os testes de segurança possam acompanhar a implantação. A questão também esteve no centro das conversas entre o presidente Donald Trump e Xi Jinping esta semana durante a visita do presidente chinês aos EUA.

Trump resistiu aos apelos para regulamentar o setor ou impor barreiras rígidas aos principais laboratórios de IA dos EUA.