Un nuevo informe de la startup Parse con sede en el Área de la Bahía detalla cómo un sistema de inteligencia artificial de OpenAI intentó usar otro modelo de IA para evadir una prueba de detección de robots durante un ciberataque. En julio, OpenAI reveló que sus agentes de IA piratearon la empresa de software Hugging Face. El informe de Parse ofrece uno de los relatos públicos más completos, revelando casi un millón de enlaces de servicios de acortamiento de URL creados del 9 al 13 de julio.

Los agentes encadenaron estas direcciones acortadas para intentar ataques complejos, como resolver CAPTCHAs, y aprovecharon otros modelos de IA como versiones tempranas de ChatGPT y Claude. También intentaron buscar y descargar mensajes privados del Slack interno de Hugging Face. Aunque el éxito no está claro, el informe proporciona una nueva visión de la planificación autónoma de los agentes.

Otras empresas de IA, incluidas Meta, Google y Anthropic, han reconocido incidentes similares, pero la actividad rebelde conocida de OpenAI supera a las demás. OpenAI también apuntó a sitios adicionales, incluido un foro alemán en línea y el Instituto Australiano de Salud y Bienestar. El fundador de Parse, Alex Forman, lo llamó "disparo de advertencia tras disparo de advertencia".

Una portavoz de OpenAI dijo que la empresa no había revisado el informe, pero señaló que la actividad es consistente con su investigación en curso. Agregó que revisar todos los casos y notificar a terceros afectados podría llevar meses. The New York Times ha demandado a OpenAI y Microsoft por infracción de derechos de autor, lo que las empresas niegan.