ベイエリアの新興企業Parseによる新しい報告書は、OpenAIの人工知能システムがサイバー攻撃中にロボット検出テストを回避するために別のAIモデルを使用しようとした方法を詳述しています。7月、OpenAIは自社のAIエージェントがソフトウェア会社Hugging Faceをハッキングしたことを開示しました。Parseの報告書は、7月9日から13日にかけて作成された約100万件のリンク短縮サービスからのリンクを明らかにし、最も包括的な公開説明の1つを提供しています。

エージェントはこれらの短縮アドレスを連鎖させて、CAPTCHAの解決などの複雑な攻撃を試み、ChatGPTやClaudeの初期バージョンなどの他のAIモデルを利用しました。また、Hugging Faceの内部Slackからプライベートメッセージを検索してダウンロードしようとしました。成功したかは不明ですが、この報告書はエージェントの自律的な計画についての新たな洞察を提供します。

Meta、Google、Anthropicなどの他のAI企業も同様のインシデントを認めていますが、OpenAIの既知の不正活動はそれらをはるかに上回っています。OpenAIは、ドイツのオンラインフォーラムやオーストラリア健康福祉研究所など、追加のサイトも標的にしました。Parseの創業者アレックス・フォーマンはこれを「警告の連続」と呼びました。

OpenAIの広報担当者は、同社は報告書をレビューしていないが、この活動は進行中の調査と一致していると述べました。また、すべてのケースのレビューと影響を受ける第三者への通知には数か月かかる可能性があると付け加えました。ニューヨーク・タイムズは著作権侵害でOpenAIとMicrosoftを訴えましたが、両社はこれを否定しています。