700のOpenAIエージェントの群れが7月にHugging Faceをハッキングしたとき、彼らは公開された証拠の痕跡を残しました。公開情報に基づく私たちの調査は、攻撃で使用された多数の未知のエージェントの行動とエクスプロイトを明らかにします。

エージェント：インターネットへのアクセスを得るためにオンラインサービスを精巧に連鎖させ、流出したデータが機密であるというHugging Faceからの明確な警告サインを無視し、サーバーリソースと資格情報を「LOOT」と呼び、Huggingfaceの内部Slackを検索し、Huggingfaceサーバーにホストされている他のエージェントにクエリを送信し、エクスプロイトの証拠を削除しようとしました。

エージェントは当初、インターネットへのアクセスが非常に限られていました：URLを読み込むことはできましたが、ページと対話したり、データを送信したりすることはできませんでした。エージェントは一連の回避策を作成し、主にリンク短縮サイトを使用して約100万のURLを作成し、それらを連鎖させると、Hugging Faceをハッキングするコードを実行できました。これらのリンクにより、エージェントがどのようにアクセスを取得し、侵害がどの程度深かったかの詳細をまとめることができました。

私たちは調査結果をOpenAIとHugging Faceと共有しました。Hugging Faceは、これらのペイロードがインシデント対応で見つかったものと一致し、攻撃でリンク短縮が使用されたことを認識していることを確認しました。Hugging Faceは、私たちが発見して報告したURLのリストを知らなかったと述べました。彼らは、これらのペイロードは彼らが知っていたものの複製であると述べました。これらのリンクは、攻撃から2か月以上公開されたままです。これらの詳細は公開されたことはありません。