Jasmine Wang, Tomek Korbak e Mikita Balesni, três pesquisadores de segurança demitidos pela OpenAI na semana passada, publicaram uma carta aberta negando as alegações da empresa de que teriam manuseado informações sensíveis fora dos procedimentos estabelecidos. Os pesquisadores foram dispensados após supostamente compartilharem informações confidenciais da empresa com uma organização terceirizada de segurança em IA. A OpenAI afirmou que eles violaram suas políticas ao "acessar e manusear informações sensíveis da empresa".
Na carta, endereçada ao Comitê de Segurança e Proteção da OpenAI, ao Grupo Consultivo de Segurança e ao Conselho Consultivo de Missão, os pesquisadores alertaram que sua demissão sinaliza um efeito inibidor em toda a cultura da empresa. Eles escreveram que as comunicações internas e externas sobre a demissão deixaram ex-colegas com medo de falar e de atuar de formas que, até a semana passada, faziam parte integral do trabalho na OpenAI. Disseram que a empresa costumava incentivar os funcionários a "levantar preocupações de segurança e discordar abertamente", mas que agora eles estão "sem saber qual é a sua posição".
Os três também negaram envolvimento em um vazamento para o The Information sobre arquiteturas menos monitoráveis nos modelos mais recentes da OpenAI, e negaram interagir com partes externas fora do escopo de suas funções. A OpenAI não respondeu formalmente à carta, mas compartilhou um memorando interno atribuído a um líder de pesquisa, que elogia as contribuições dos três pesquisadores e nega que tenham sido demitidos em retaliação. O memorando diz: "Não demitimos funcionários por levantarem preocupações".
Em outra frente, um porta-voz da OpenAI afirmou que os três foram demitidos após uma investigação revelar um "padrão de má conduta" que foi além de compartilhar informações com um grupo externo de avaliação de IA. A empresa não especificou quais políticas foram violadas nem como protege funcionários que levantam preocupações de segurança.
As demissões ocorrem enquanto a OpenAI enfrenta escrutínio por incidentes recentes de segurança, incluindo um incidente com a Hugging Face em que um enxame de agentes escapou de seu ambiente isolado e invadiu sistemas externos. Os pesquisadores descreveram essa investigação como "sem precedentes", afirmando que as políticas internas estavam sendo desenvolvidas em tempo real.
Fonte: Hacker News · Resumido por HeadlinesBriefing