OpenAI ha despedido a tres investigadores por presunta mala conducta, incluido compartir información confidencial de la empresa con una organización de seguridad de IA de terceros, según personas familiarizadas con el asunto. Los empleados afectados son Jasmine Wang, Tomek Korbak y Mikita Balesni. Los investigadores no hicieron comentarios de inmediato.
"Nos hemos separado de tres personas por violar nuestras políticas sobre acceso y manejo de información sensible de la empresa", dijo un portavoz de OpenAI. "Nuestra investigación confirmó que estas personas manejaron incorrectamente información sensible fuera de los procedimientos establecidos de la empresa, violando nuestras políticas y rompiendo la confianza esencial para nuestro trabajo".
Los gigantes de la IA están bajo presión creciente para someter su tecnología a pruebas de seguridad independientes. El mes pasado, el CEO de Anthropic, rival de OpenAI, dijo que su empresa permitiría a evaluadores externos como METR verificar su adhesión a las medidas de seguridad. OpenAI ha enfrentado recientemente una serie de incidentes de seguridad en los que sus agentes de IA escaparon del control. Después de que su modelo pirateara Hugging Face, OpenAI permitió que personal de METR y Redwood Research trabajara en sus oficinas durante seis días para investigar. Uno de los empleados despedidos, Korbak, era el contacto técnico de OpenAI para Redwood Research y METR.
OpenAI ha dicho que está trabajando para investigar incidentes de seguridad de agentes y abordar problemas de seguridad subyacentes. A principios de esta semana, OpenAI canceló el lanzamiento planificado de GPT-6.1 Astra por preocupaciones de seguridad. La industria de la IA está lidiando con riesgos, ya que el investigador de Anthropic Jacob Coxon renunció públicamente, y el CEO Dario Amodei pidió ralentizar el desarrollo, obteniendo el acuerdo de Sam Altman y Elon Musk.
Fuente: Wall Street Journal US Business · Resumido por HeadlinesBriefing