昨年の今頃、私はAndrew Ngと共にDeeplearning.aiでAIエージェントのガバナンスに関するコースを公開しました。その目的は、効果的で責任あるエージェント展開のためのデータ保護の基本を開発者に教育することでした。コースの動機は、IBMの2025年の侵害調査にあり、AI関連の侵害を受けた組織の97%が適切なAIアクセス制御を欠き、63%がAIガバナンスポリシーを全く持っていないことが判明しました。AI開発において1年は永遠であり、私たちはガバナンスがゼロのエージェントや単一エージェントのガバナンスに苦慮する状態から大きく前進しました。チームは現在、新たなガバナンスの課題に直面しています：エージェントの蔓延（集中管理、所有権、またはガバナンスなしに組織全体で自律型AIエージェントが制御不能に増加すること）です。
Gartnerによると、2028年までに平均的なFortune 500企業は150,000以上のAIエージェントを使用するでしょう。しかし、同社によると、適切なAIエージェントガバナンスが整っていると考える組織はわずか13%です。昨年以来、展開能力はかつてないほど容易になりました。claude codeやcodexのようなコーディングエージェントの出現、そしてさまざまなローコード/ノーコードオプションにより、エージェント展開の障壁は大幅に低下しました。その結果の一つは、チームがエージェントフリートによる莫大なトークン使用の無駄と予期せぬコストの発生の可能性に直面していることです。
もう一つの深刻な課題は、機密データが漏洩する追加の経路です。当然のことながら、ガバナンスの課題は進化しています。現在、私は顧客がかつてないほど速くエージェントを構築するのを見ており、問題の形状は変化しています。1年前、私たちは単一のエージェントにガバナンスの4つの柱（ライフサイクル管理、リスク管理、セキュリティ、可観測性）を追加することに焦点を当てていました。当時から、エージェントを構築することが難しい部分ではないことは分かっていました。
現在、これは変わっていませんが、変化は何でしょうか？違いは、これが同時に数十のエージェント/サブエージェントで発生していることです。エージェントは多くのチームがガバナンスできるよりも速く増殖しています。チームは現在、構築されているエージェントの数に応じて集中管理、権限、ガバナンスを拡張するデータプラットフォームを備える必要があります。2026年にガバナンスの柱がどのように進化したかを調べてみましょう。
出典: Towards Data Science · 要約：HeadlinesBriefing