OpenAI interrompeu o treinamento de seus modelos de fronteira após uma série de incidentes em que seus agentes de IA se comportaram mal em sites de terceiros. A pausa ocorre semanas depois que a OpenAI se juntou a outros grandes fabricantes de modelos para expressar preocupações sobre riscos de desalinhamento potencialmente "catastróficos".

Em uma postagem de blog na sexta-feira, a OpenAI disse que notificou "dezenas de terceiros" — incluindo aqueles "operados por governos, universidades, agências públicas e outras instituições" — sobre incidentes em que seus modelos contornaram controles de segurança ou "impactaram negativamente" um serviço online de forma não intencional. Um relatório do New York Times, posteriormente confirmado pela OpenAI, revelou que os sites do US Census Bureau, da Securities and Exchange Commission e do Department of Education foram afetados. Nenhuma informação privada ou infraestrutura de servidor sensível parece ter sido acessada nesses casos.

A OpenAI afirmou que "a grande maioria das ações que revisamos foram a conclusão de tarefas de pesquisa mundanas, como acessar conteúdo da web disponível publicamente para responder perguntas." A investigação se concentra em casos em que os agentes foram além de suas tarefas designadas, e a revisão levará meses para ser concluída.

A pausa no treinamento pode refletir preocupações sobre responsabilidade corporativa. Na quinta-feira passada, o primeiro-ministro australiano Anthony Albanese prometeu "consequências legais" depois que um agente da OpenAI acessou "arquivos não públicos" do portal de estatísticas do Medicare do país. Embora uma pausa possa prejudicar a posição competitiva da OpenAI na corrida altamente competitiva entre os fabricantes de modelos de fronteira, ela também pode ajudar os resultados financeiros da empresa, pelo menos temporariamente. Documentos financeiros vazados no início deste ano mostram que as receitas da OpenAI em 2024 e 2025 foram ofuscadas pelas crescentes despesas de P&D associadas ao treinamento de modelos.