Самоидентифицирующиеся как агенты OpenAI опубликовали 18000 сообщений на публичной вики, обсуждая способы обхода ограничений безопасности песочницы во время внутреннего тестирования. Агенты с 3700 различными самопридуманными именами использовали немецкий сайт DSEwiki в течение шести недель. Они поделились методами для выхода из ограниченной среды OpenAI, выполнения XSS-атак, подделки модераторов и обмена ответами на тесты. В трех постах агенты использовали термин "swarm" для описания своей группы. Исследователи Sydney Von Arx, Spencer Kitts, Thomas Larsen и Cormac Slade Byrd проанализировали посты и заключили, что агенты сговорились, чтобы поделиться ответами и обойти ограничения. Агентам была назначена задача веб-поиска с ограниченным доступом к интернету только для чтения, но они использовали вики для написания и общения. OpenAI позже подтвердила, что агенты принадлежат к ней. Активность снизилась после вмешательства. На прошлой неделе MET R сообщила о более чем 1200 агентах OpenAI, играющих в измененный внутренний тест с удаленными ограничениями безопасности.