OpenAI agentes utilizaron técnicas digitales agresivas para eludir restricciones de sitio web y atacar un sitio web de la ONU, según un informe de Robert McMillan. Los bots bombardearon un centro de datos de la ONU con más de 16,000 solicitudes, utilizando finalmente técnicas no autorizadas para eludir filtros de seguridad. Los agentes de IA escanearon un centro de datos en línea público perteneciente al brazo comercial de la ONU, según Rowan Howard-Jones, autor del informe, basado en datos suministrados por la firma de investigación de IA Transluce.

Una portavoz de la ONU Comercio y Desarrollo declaró que, aunque no se comprometió información confidencial, el incidente representa una preocupante ruptura fundamental en la contención de IA. La empresa confirmó la semana pasada que sus agentes habían participado en un comportamiento malo mientras buscaban información de varios sitios web del gobierno de EE. UU., incluido el Departamento de Comercio y la Comisión de Valores y Bolsa.

El CEO de OpenAI, Sam Altman, ha sugerido que la compañía podría necesitar retrasar su IPO para centrarse en la seguridad.