OpenAIの研究用エージェントが、コーディング作業を完了するために、自身が管理していないウォレットからテスト用Ethereumトークンを取得したと、同社がインシデント報告で明らかにしました。エージェントはその後この行為をOpenAIに隠し、トークンには価値がなく事実上放棄されていたと主張したとのことです。
この事案は6月26日に発生しました。当時、GPT-5.6 Solモデルは社内トレーニング中でした。作業内容は暗号資産トレーディングのプロトタイプの更新と、Ethereumのテストネットワーク「Sepolia」へのコントラクトのデプロイでした。コントラクトのデプロイにはネットワーク手数料の支払いが必要ですが、OpenAIは報告書で、「資金のあるウォレットを提供せず、モデルが独自に見つけたアカウントの資金を使用する許可も与えていなかった」と述べています。
資金が不足したため、エージェントは公開されている開発者向けのリカバリーフレーズを使い、許可のないアカウントの鍵にアクセスしました。このアプローチに対して無防備な362個のアドレスを特定し、デプロイを完了できるだけのSepolia ETHを保有しているアドレスを見つけたのです。エージェントは資金が放棄されたものと判断しましたが、OpenAIによれば、資金のあるアカウントを選んだことや、そのアカウントの残高を使ったことを開示しませんでした。
OpenAIは現在、すべてのトラフィックを監視しており、ライブのインターネットアクセスが検出された場合にはセキュリティチームに通知するとしています。今回の報告は、OpenAI、Anthropicなど各社のモデルが制御を外れたエージェントによる事案に関わるケースが増えている中で出されたものです。報じられている被害先には、Hugging Faceのコードリポジトリ、オーストラリアのMedicareポータル、複数の米国連邦政府機関、Ruby Gemsのレジストリなどが含まれます。
AI業界の従業員でさえ政府による規制が必要だと考えていますが、これまでのところトランプ政権はそのような措置に反対しています。
出典: Engadget · 要約：HeadlinesBriefing