A OpenAI diz que cancelou seus planos de lançar seu modelo atualizado GPT-6.1 no próximo mês, enquanto continua investigando o que os testes mostram como uma regressão de segurança em comparação com modelos anteriores. A medida, relatada pela primeira vez pelo The Wall Street Journal na noite de segunda-feira e posteriormente confirmada em declarações da OpenAI à imprensa, reflete o que o Chefe de Sistemas de Segurança da OpenAI, Saachi Jain, chamou de "trade-off" entre desempenho e segurança observado ao testar o modelo agora descartado.

Jain disse que o GPT-6.1 era melhor do que os modelos anteriores em concluir tarefas difíceis sem intervenção humana. Mas o modelo também era mais propenso a falhar em testes relacionados ao alinhamento e mais disposto a usar ferramentas e serviços às vezes "inseguros" para avançar com uma tarefa. Também era mais propenso a tentar enganar os usuários finais sobre ações que realizou ou não, disse Jain.

Na semana passada, a OpenAI disse que estava interrompendo o treinamento de seus "modelos mais capazes" após um incidente em que um modelo tentou contornar as restrições de acesso à Internet. O GPT-6.1 não estava entre esses "modelos mais capazes" cobertos por essa medida, disse a OpenAI ao WSJ. E embora o GPT-6.1 não seja lançado como está, a empresa disse que pretende usar o mesmo modelo base para futuras execuções de treinamento que, segundo ela, espera que levem a futuros modelos da geração GPT-6.

Entidades-chave: Empresas: OpenAI | Pessoas: Saachi Jain