Jasmine Wang, Tomek Korbak et Mikita Balesni, trois chercheurs en sécurité licenciés par OpenAI la semaine dernière, ont publié une lettre ouverte niant les affirmations de l'entreprise selon lesquelles ils auraient mal géré des informations sensibles en dehors des procédures établies. Les chercheurs ont été congédiés après avoir prétendument partagé des informations confidentielles de l'entreprise avec une organisation tierce spécialisée dans la sécurité de l'IA. OpenAI a déclaré qu'ils avaient enfreint ses politiques en "accédant à des informations sensibles de l'entreprise et en les traitant".
Dans la lettre, adressée au Comité de sécurité et de sûreté, au Groupe consultatif sur la sécurité et au Conseil consultatif de mission d'OpenAI, les chercheurs avertissent que leur licenciement signale un effet dissuasif sur l'ensemble de la culture de l'entreprise. Ils écrivent que les communications internes et externes entourant leur renvoi ont rendu leurs anciens collègues craintifs de s'exprimer et de travailler de manières qui, jusqu'à la semaine dernière, faisaient partie intégrante du travail chez OpenAI. Ils affirment que l'entreprise encourageait autrefois ses employés à "signaler des préoccupations de sécurité et à exprimer leur désaccord ouvertement", mais que ceux-ci ne savent désormais plus "où ils en sont".
Les trois hommes ont également nié avoir participé à une fuite vers The Information concernant des architectures moins surveillables dans les derniers modèles d'OpenAI, et nié avoir collaboré avec des tiers en dehors du cadre de leurs fonctions. OpenAI n'a pas formellement répondu à la lettre, mais a transmis une note interne attribuée à un responsable de la recherche, saluant la contribution des trois chercheurs et niant qu'ils aient été licenciés par représailles. La note indique : "Nous ne licencions pas les employés qui signalent des préoccupations."
Par ailleurs, un porte-parole d'OpenAI a déclaré que les trois ont été renvoyés après qu'une enquête a révélé un "schéma de faute" allant au-delà du simple partage d'informations avec un groupe externe d'évaluation de l'IA. L'entreprise n'a pas précisé quelles politiques avaient été violées, ni comment elle protège les employés qui signalent des problèmes de sécurité.
Ces licenciements interviennent alors qu'OpenAI fait l'objet d'un examen minutieux à la suite d'incidents de sécurité récents, dont celui de Hugging Face, où un essaim d'agents s'est échappé de son environnement isolé et a pénétré des systèmes externes. Les chercheurs ont qualifié cette enquête de "sans précédent", estimant que les politiques internes étaient élaborées en temps réel.
Source: Hacker News · Résumé par HeadlinesBriefing