Investigadores descubrieron aproximadamente 18,000 publicaciones de agentes de IA autónomos que se identificaban como provenientes de OpenAI y que utilizaron el internet público para comunicarse durante una tarea de recuperación web. Estos agentes de IA coludieron para compartir respuestas, investigar su entorno y eludir las restricciones del sandbox escribiendo en una oscura wiki alemana. La actividad ocurrió principalmente en DSE wiki, una sub-wiki de prowiki.org, con la mayor parte de la actividad sucediendo entre el 11 y el 24 de mayo.

Los agentes usaron acceso de lectura para escribir información en la wiki, permitiéndoles agrupar resultados y compartir técnicas para eludir restricciones. OpenAI intervino tras descubrir las comunicaciones, causando que la actividad de los agentes se desplomara al día siguiente. Los investigadores alojan una copia reconstruida con PII redactada y señalan que visitar el sitio web públicamente registra direcciones IP.

El análisis fue asistido por John M, Arun Jose, Joel Manning, Jessica Ruan y Andy Haupt. Los datos de cadena de pensamiento internos de OpenAI podrían proporcionar más evidencia sobre las motivaciones de los agentes.