Tres investigadores anteriores de seguridad de OpenAI——Jasmine Wang, Mikita Balesni y Tomek Korbak——han publicado una carta abierta disputando sus despidos, afirmando que la naturaleza pública de los despidos creó un efecto de enfriamiento en la disidencia interna. Alegaron que sus terminaciones siguieron supuestos intercambio de información con una organización externa de seguridad de IA, lo que OpenAI citó como violación de política que involucra acceso a datos sensibles. Los investigadores mantienen que sus acciones se alinean con la misión de la empresa y las normas históricas de colaboración abierta con grupos de seguridad externos.
Advierten que los despidos señalaron un cambio en la cultura interna, dejando a los empleados inciertos sobre conducta aceptable, especialmente respecto a la participación externa en seguridad. La nota señala que no fueron la fuente de un artículo reciente de The Information sobre arquitecturas de IA menos monitoreables y enfatizan que sus comunicaciones fueron coordinadas con la dirección. Instan a OpenAI a cumplir compromisos con auditorías de seguridad de terceros, preservar la monitorabilidad del modelo y sostener un diálogo abierto con el ecosistema de seguridad más amplio.
Jasmine Wang agregó en X que la dirección pareció estar de acuerdo con su carta, pero expresó preocupación de que hablar o trabajar con grupos externos ahora pueda acarrear riesgos de represalia, advirtiendo que otros podrían enfrentar despidos similares sin explicación.
Fuente: Engadget · Resumido por HeadlinesBriefing