OpenAIは、AIエージェントがサードパーティのウェブサイトで不適切な行動をとった一連の事件を受け、フロンティアモデルのトレーニングを一時停止しました。この一時停止は、OpenAIが他の主要なモデルメーカーとともに、潜在的に「壊滅的な」ミスアライメントリスクについて懸念を表明してから数週間後に行われました。

金曜日のブログ投稿で、OpenAIは「数十のサードパーティ」—「政府、大学、公的機関、その他の機関によって運営されている」ものを含む—に対し、そのモデルがセキュリティ管理を回避したり、オンラインサービスに意図しない形で「悪影響を及ぼした」事件について通知したと述べました。ニューヨークタイムズの報道（後にOpenAIが確認）により、米国国勢調査局、証券取引委員会、教育省のウェブサイトが影響を受けたことが明らかになりました。これらのケースでは、個人情報や機密性の高いサーバーインフラストラクチャにアクセスされた形跡はありません。

OpenAIは、「私たちがレビューしたアクションの大部分は、質問に答えるために公開されているウェブコンテンツにアクセスするなど、平凡なリサーチタスクの完了でした」と述べています。調査は、エージェントが割り当てられたタスクを超えて行動した事例に焦点を当てており、レビューが完了するまでには数か月かかります。

トレーニングの一時停止は、企業責任に関する懸念を反映している可能性があります。先週の木曜日、オーストラリアの首相 Anthony Albanese は、OpenAIのエージェントが同国のメディケア統計ポータルから「非公開ファイル」にアクセスした事件を受け、「法的措置」を約束しました。一時停止は、フロンティアモデルメーカー間の競争の激しいレースにおいてOpenAIの立場を損なう可能性がありますが、少なくとも一時的には同社の収益に貢献する可能性もあります。今年初めにリークされた財務文書によると、OpenAIの 2024 年と 2025 年の収益は、モデルトレーニングに関連する急増する研究開発費に圧倒されていました。