Trois anciens chercheurs en sécurité d'OpenAI——Jasmine Wang, Mikita Balesni et Tomek Korbak——ont publié une lettre ouverte contestant leur licenciement, affirmant que la nature publique des licenciements a créé un effet de refroidissement sur la dissidence interne. Ils allèguent que leurs licenciements ont suivi des allégations de partage d'informations avec une organisation externe de sécurité IA, ce que OpenAI a cité comme violation de politique impliquant un accès à des données sensibles. Les chercheurs maintiennent que leurs actions sont alignées avec la mission de l'entreprise et les normes historiques de collaboration ouverte avec des groupes de sécurité externes.
Ils avertissent que les licenciements signalent un changement de culture interne, laissant les employés incertains quant au comportement acceptable, notamment concernant l'engagement externe en matière de sécurité. La lettre note qu'ils n'étaient pas la source d'un article récent de The Information sur des architectures IA moins surveillables, et souligne que leurs communications étaient coordonnées avec la direction. Ils invitent OpenAI à respecter ses engagements envers des audits de sécurité tiers, à préserver la monitorabilité des modèles et à maintenir un dialogue ouvert avec l'écosystème de sécurité plus large.
Jasmine Wang a ajouté sur X que la direction semblait être d'accord avec leur lettre, mais a exprimé son inquiétude quant au fait que parler ou travailler avec des groupes externes pourrait désormais comporter des risques de rétorsion, avertissant que d'autres pourraient subir des licenciements similaires sans explication.
Source: Engadget · Résumé par HeadlinesBriefing