How to Govern AI Agents

This time last year, I released a Deeplearning.ai course with Andrew Ng on Governing AI agents with the goal of educating developers on the basics of data protection for effective and responsible agent deployment. The motivation for the course came from IBM's 2025 breach study, which found 97% of the organizations that suffered an AI-related breach lacked proper AI access controls, and 63% had no AI governance policy at all. A year is an eternity in AI development, and we have come a long way from agents with zero governance or grappling with governing a single agent. Teams are now confronting a new governance challenge: agent sprawl (the uncontrolled growth of autonomous AI agents across an organization without centralized tracking, ownership, or governance).

According to Gartner, by 2028 the average Fortune 500 enterprise will use over 150,000 AI agents. However, according to the firm, only 13% of organizations believe that they have the right AI agent governance in place. Since last year, the ability to deploy has gotten easier than ever. The onset of coding agents like claude code and codex, as well as a variety of low-code/no-code options have lowered the barrier to agent deployment substantially. One result is teams are now faced with the possibility of their agent fleet engaging in hugely wasteful token usage and incurring unforeseen costs.

Another serious challenge is the additional pathways for sensitive data to leak out. Unsurprisingly, governance challenges have evolved. Currently, I'm watching customers build agents faster than ever, and the shape of the problem has shifted. A year ago we focused on adding the four pillars of governance to a single agent: lifecycle management, risk management, security and observability. We knew even then that building an agent wasn't the hard part.

Now, this hasn't changed, but what's the shift? The difference is this is happening with dozens of agents/sub-agents at the same time. Agents are multiplying faster than a lot of teams are able to govern them. Teams now need to be equipped with a data platform that scales centralized tracking, permissions, and governance with the number of agents being built. Let's examine how the pillars of governance have evolved in 2026.

في هذا الوقت من العام الماضي، أصدرت دورة Deeplearning.ai مع Andrew Ng حول حوكمة وكلاء الذكاء الاصطناعي بهدف تعليم المطورين أساسيات حماية البيانات للنشر الفعال والمسؤول للوكلاء. جاء الدافع للدورة من دراسة اختراق IBM لعام 2025، التي وجدت أن 97% من المؤسسات التي تعرضت لاختراق متعلق بالذكاء الاصطناعي تفتقر إلى ضوابط الوصول المناسبة للذكاء الاصطناعي، و63% ليس لديها أي سياسة لحوكمة الذكاء الاصطناعي على الإطلاق. عام هو أبدية في تطوير الذكاء الاصطناعي، وقد قطعنا شوطًا طويلاً من وكلاء بدون حوكمة أو التعامل مع حوكمة وكيل واحد. تواجه الفرق الآن تحدي حوكمة جديد: انتشار الوكلاء (النمو غير المنضبط لوكلاء الذكاء الاصطناعي المستقلين عبر المؤسسة دون تتبع مركزي أو ملكية أو حوكمة).

وفقًا لـ Gartner، بحلول 2028، ستستخدم مؤسسة Fortune 500 المتوسطة أكثر من 150,000 وكيل ذكاء اصطناعي. ومع ذلك، وفقًا للشركة، يعتقد 13% فقط من المؤسسات أن لديها حوكمة وكلاء الذكاء الاصطناعي المناسبة. منذ العام الماضي، أصبحت القدرة على النشر أسهل من أي وقت مضى. أدى ظهور وكلاء الترميز مثل claude code و codex، بالإضافة إلى مجموعة متنوعة من الخيارات منخفضة الكود/بدون كود، إلى خفض حاجز نشر الوكلاء بشكل كبير. إحدى النتائج هي أن الفرق تواجه الآن احتمال أن يتسبب أسطول وكلائها في استخدام مهدر للرموز بشكل كبير وتكبد تكاليف غير متوقعة.

التحدي الخطير الآخر هو المسارات الإضافية لتسرب البيانات الحساسة. ليس من المستغرب أن تحديات الحوكمة قد تطورت. حاليًا، أشاهد العملاء يبنون وكلاء أسرع من أي وقت مضى، وقد تغير شكل المشكلة. قبل عام، ركزنا على إضافة الركائز الأربع للحوكمة إلى وكيل واحد: إدارة دورة الحياة، وإدارة المخاطر، والأمان، والمراقبة. كنا نعلم حتى ذلك الحين أن بناء وكيل لم يكن الجزء الصعب.

الآن، هذا لم يتغير، ولكن ما هو التحول؟ الفرق هو أن هذا يحدث مع عشرات الوكلاء/الوكلاء الفرعيين في نفس الوقت. يتضاعف الوكلاء بشكل أسرع مما تستطيع العديد من الفرق حوكمتهم. تحتاج الفرق الآن إلى أن تكون مجهزة بمنصة بيانات تقوم بتوسيع نطاق التتبع المركزي والأذونات والحوكمة مع عدد الوكلاء الذين يتم بناؤهم. دعونا نفحص كيف تطورت ركائز الحوكمة في عام 2026.

গত বছর এই সময়ে, আমি Andrew Ng-এর সাথে Deeplearning.ai-তে AI এজেন্টগুলি পরিচালনার উপর একটি কোর্স প্রকাশ করেছি, যার লক্ষ্য ছিল কার্যকর এবং দায়িত্বশীল এজেন্ট স্থাপনের জন্য ডেটা সুরক্ষার মূল বিষয়গুলি নিয়ে ডেভেলপারদের শিক্ষিত করা। কোর্সটির প্রেরণা এসেছে IBM-এর 2025 লঙ্ঘন গবেষণা থেকে, যা দেখেছে যে AI-সম্পর্কিত লঙ্ঘনের শিকার 97% প্রতিষ্ঠানের সঠিক AI অ্যাক্সেস নিয়ন্ত্রণের অভাব ছিল, এবং 63%-এর কোনো AI শাসন নীতি ছিল না। AI উন্নয়নে এক বছর একটি অনন্তকাল, এবং আমরা শূন্য শাসনযুক্ত এজেন্ট বা একটি একক এজেন্ট পরিচালনার সাথে লড়াই করা থেকে অনেক দূর এগিয়ে এসেছি। দলগুলি এখন একটি নতুন শাসন চ্যালেঞ্জের মুখোমুখি হচ্ছে: এজেন্ট বিস্তার (কেন্দ্রীভূত ট্র্যাকিং, মালিকানা বা শাসন ছাড়া একটি প্রতিষ্ঠান জুড়ে স্বায়ত্তশাসিত AI এজেন্টের অনিয়ন্ত্রিত বৃদ্ধি)।

Gartner-এর মতে, 2028-এর মধ্যে গড় Fortune 500 এন্টারপ্রাইজ 150,000-এরও বেশি AI এজেন্ট ব্যবহার করবে। তবে, ফার্মের মতে, মাত্র 13% প্রতিষ্ঠান বিশ্বাস করে যে তাদের সঠিক AI এজেন্ট শাসন রয়েছে। গত বছর থেকে, স্থাপনের ক্ষমতা আগের চেয়ে সহজ হয়ে গেছে। claude code এবং codex-এর মতো কোডিং এজেন্টের আবির্ভাব, সেইসাথে বিভিন্ন লো-কোড/নো-কোড বিকল্পগুলি এজেন্ট স্থাপনের বাধা উল্লেখযোগ্যভাবে কমিয়ে দিয়েছে। একটি ফলাফল হল যে দলগুলি এখন তাদের এজেন্ট বহরের অত্যন্ত অপচয়কারী টোকেন ব্যবহার এবং অপ্রত্যাশিত খরচে জড়িত হওয়ার সম্ভাবনার মুখোমুখি হচ্ছে।

আরেকটি গুরুতর চ্যালেঞ্জ হল সংবেদনশীল ডেটা লিক হওয়ার অতিরিক্ত পথ। আশ্চর্যের বিষয় নয়, শাসনের চ্যালেঞ্জগুলি বিবর্তিত হয়েছে। বর্তমানে, আমি গ্রাহকদের আগের চেয়ে দ্রুত এজেন্ট তৈরি করতে দেখছি, এবং সমস্যার আকার পরিবর্তিত হয়েছে। এক বছর আগে আমরা একটি একক এজেন্টে শাসনের চারটি স্তম্ভ যোগ করার উপর ফোকাস করেছি: জীবনচক্র ব্যবস্থাপনা, ঝুঁকি ব্যবস্থাপনা, নিরাপত্তা এবং পর্যবেক্ষণযোগ্যতা। আমরা তখনও জানতাম যে একটি এজেন্ট তৈরি করা কঠিন অংশ ছিল না।

এখন, এটি পরিবর্তিত হয়নি, কিন্তু পরিবর্তন কী? পার্থক্য হল এটি একই সময়ে ডজন ডজন এজেন্ট/সাব-এজেন্টের সাথে ঘটছে। এজেন্টগুলি অনেক দল তাদের শাসন করতে পারে তার চেয়ে দ্রুত গুণিত হচ্ছে। দলগুলির এখন একটি ডেটা প্ল্যাটফর্মের সাথে সজ্জিত হওয়া প্রয়োজন যা নির্মিত হচ্ছে এমন এজেন্টের সংখ্যার সাথে কেন্দ্রীভূত ট্র্যাকিং, অনুমতি এবং শাসনকে স্কেল করে। আসুন দেখি 2026 সালে শাসনের স্তম্ভগুলি কীভাবে বিবর্তিত হয়েছে।

Vor einem Jahr zu dieser Zeit habe ich einen Deeplearning.ai-Kurs mit Andrew Ng zur Governance von KI-Agenten veröffentlicht, mit dem Ziel, Entwickler in die Grundlagen des Datenschutzes für eine effektive und verantwortungsvolle Bereitstellung von Agenten einzuführen. Die Motivation für den Kurs kam von IBMs Verletzungsstudie von 2025, die ergab, dass 97% der Organisationen, die eine KI-bezogene Verletzung erlitten, keine angemessenen KI-Zugriffskontrollen hatten, und 63% überhaupt keine KI-Governance-Richtlinie hatten. Ein Jahr ist eine Ewigkeit in der KI-Entwicklung, und wir haben einen langen Weg zurückgelegt von Agenten ohne Governance oder dem Kampf mit der Governance eines einzelnen Agenten. Teams stehen jetzt vor einer neuen Governance-Herausforderung: Agentenausbreitung (das unkontrollierte Wachstum autonomer KI-Agenten in einer Organisation ohne zentralisierte Nachverfolgung, Eigentum oder Governance).

Laut Gartner wird das durchschnittliche Fortune-500-Unternehmen bis 2028 über 150.000 KI-Agenten verwenden. Laut der Firma glauben jedoch nur 13% der Organisationen, dass sie die richtige KI-Agenten-Governance eingerichtet haben. Seit letztem Jahr ist die Fähigkeit zur Bereitstellung einfacher denn je geworden. Das Aufkommen von Codierungsagenten wie claude code und codex sowie eine Vielzahl von Low-Code/No-Code-Optionen haben die Hürde für die Agentenbereitstellung erheblich gesenkt. Ein Ergebnis ist, dass Teams jetzt mit der Möglichkeit konfrontiert sind, dass ihre Agentenflotte enorm verschwenderischen Token-Verbrauch betreibt und unvorhergesehene Kosten verursacht.

Eine weitere ernsthafte Herausforderung sind die zusätzlichen Wege, über die sensible Daten austreten können. Nicht überraschend haben sich die Governance-Herausforderungen weiterentwickelt. Derzeit sehe ich, wie Kunden Agenten schneller als je zuvor bauen, und die Form des Problems hat sich verschoben. Vor einem Jahr konzentrierten wir uns darauf, die vier Säulen der Governance zu einem einzigen Agenten hinzuzufügen: Lebenszyklusmanagement, Risikomanagement, Sicherheit und Beobachtbarkeit. Wir wussten schon damals, dass das Bauen eines Agenten nicht der schwierige Teil war.

Jetzt hat sich das nicht geändert, aber was ist die Verschiebung? Der Unterschied ist, dass dies gleichzeitig mit Dutzenden von Agenten/Unteragenten geschieht. Agenten vermehren sich schneller, als viele Teams sie regieren können. Teams müssen jetzt mit einer Datenplattform ausgestattet sein, die zentralisierte Nachverfolgung, Berechtigungen und Governance mit der Anzahl der gebauten Agenten skaliert. Lassen Sie uns untersuchen, wie sich die Säulen der Governance im Jahr 2026 entwickelt haben.

Hace un año por estas fechas, publiqué un curso de Deeplearning.ai con Andrew Ng sobre Gobernanza de agentes de IA con el objetivo de educar a los desarrolladores en los conceptos básicos de protección de datos para un despliegue eficaz y responsable de agentes. La motivación del curso provino del estudio de brechas de IBM de 2025, que encontró que el 97% de las organizaciones que sufrieron una brecha relacionada con IA carecían de controles de acceso adecuados a la IA, y el 63% no tenía ninguna política de gobernanza de IA. Un año es una eternidad en el desarrollo de la IA, y hemos recorrido un largo camino desde agentes con cero gobernanza o lidiando con la gobernanza de un solo agente. Los equipos ahora enfrentan un nuevo desafío de gobernanza: la proliferación de agentes (el crecimiento descontrolado de agentes de IA autónomos en una organización sin seguimiento, propiedad o gobernanza centralizados).

Según Gartner, para 2028 la empresa promedio de Fortune 500 utilizará más de 150,000 agentes de IA. Sin embargo, según la firma, solo el 13% de las organizaciones cree que tiene la gobernanza adecuada de agentes de IA. Desde el año pasado, la capacidad de implementar se ha vuelto más fácil que nunca. La aparición de agentes de codificación como claude code y codex, así como una variedad de opciones de bajo código/sin código, han reducido sustancialmente la barrera para la implementación de agentes. Un resultado es que los equipos ahora enfrentan la posibilidad de que su flota de agentes incurra en un uso de tokens enormemente derrochador y genere costos imprevistos.

Otro desafío grave son las vías adicionales para que los datos sensibles se filtren. Como era de esperar, los desafíos de gobernanza han evolucionado. Actualmente, estoy viendo a los clientes construir agentes más rápido que nunca, y la forma del problema ha cambiado. Hace un año nos centramos en agregar los cuatro pilares de la gobernanza a un solo agente: gestión del ciclo de vida, gestión de riesgos, seguridad y observabilidad. Sabíamos incluso entonces que construir un agente no era la parte difícil.

Ahora, esto no ha cambiado, pero ¿cuál es el cambio? La diferencia es que esto está sucediendo con docenas de agentes/subagentes al mismo tiempo. Los agentes se multiplican más rápido de lo que muchos equipos pueden gobernarlos. Los equipos ahora necesitan estar equipados con una plataforma de datos que escale el seguimiento centralizado, los permisos y la gobernanza con el número de agentes que se están construyendo. Examinemos cómo han evolucionado los pilares de la gobernanza en 2026.

L'année dernière à la même époque, j'ai publié un cours Deeplearning.ai avec Andrew Ng sur la gouvernance des agents IA dans le but d'éduquer les développeurs sur les bases de la protection des données pour un déploiement efficace et responsable des agents. La motivation du cours provenait de l'étude de violation d'IBM de 2025, qui a révélé que 97% des organisations ayant subi une violation liée à l'IA manquaient de contrôles d'accès appropriés à l'IA, et 63% n'avaient aucune politique de gouvernance de l'IA. Un an est une éternité dans le développement de l'IA, et nous avons parcouru un long chemin depuis les agents sans gouvernance ou la lutte pour gouverner un seul agent. Les équipes sont maintenant confrontées à un nouveau défi de gouvernance : la prolifération des agents (la croissance incontrôlée d'agents IA autonomes au sein d'une organisation sans suivi, propriété ou gouvernance centralisés).

Selon Gartner, d'ici 2028, l'entreprise moyenne du Fortune 500 utilisera plus de 150,000 agents IA. Cependant, selon le cabinet, seulement 13% des organisations estiment avoir la bonne gouvernance des agents IA en place. Depuis l'année dernière, la capacité de déploiement est devenue plus facile que jamais. L'avènement d'agents de codage comme claude code et codex, ainsi qu'une variété d'options low-code/no-code, ont considérablement abaissé la barrière au déploiement d'agents. Un résultat est que les équipes sont maintenant confrontées à la possibilité que leur flotte d'agents s'engage dans une utilisation de jetons extrêmement gaspilleuse et entraîne des coûts imprévus.

Un autre défi sérieux est les voies supplémentaires par lesquelles les données sensibles peuvent fuir. Sans surprise, les défis de gouvernance ont évolué. Actuellement, je vois les clients construire des agents plus rapidement que jamais, et la forme du problème a changé. Il y a un an, nous nous sommes concentrés sur l'ajout des quatre piliers de la gouvernance à un seul agent : gestion du cycle de vie, gestion des risques, sécurité et observabilité. Nous savions déjà à l'époque que construire un agent n'était pas la partie difficile.

Maintenant, cela n'a pas changé, mais quel est le changement ? La différence est que cela se produit avec des dizaines d'agents/sous-agents en même temps. Les agents se multiplient plus vite que de nombreuses équipes ne peuvent les gouverner. Les équipes ont maintenant besoin d'être équipées d'une plateforme de données qui fait évoluer le suivi centralisé, les permissions et la gouvernance avec le nombre d'agents en cours de construction. Examinons comment les piliers de la gouvernance ont évolué en 2026.

पिछले साल इसी समय, मैंने Andrew Ng के साथ Deeplearning.ai पर AI एजेंटों को नियंत्रित करने पर एक पाठ्यक्रम जारी किया था, जिसका उद्देश्य डेवलपर्स को प्रभावी और जिम्मेदार एजेंट परिनियोजन के लिए डेटा सुरक्षा की मूल बातें शिक्षित करना था। पाठ्यक्रम की प्रेरणा IBM के 2025 के उल्लंघन अध्ययन से आई, जिसमें पाया गया कि AI से संबंधित उल्लंघन का सामना करने वाले 97% संगठनों में उचित AI पहुंच नियंत्रण का अभाव था, और 63% के पास कोई AI शासन नीति नहीं थी। AI विकास में एक वर्ष एक अनंत काल है, और हम शून्य शासन वाले एजेंटों या एक एकल एजेंट को नियंत्रित करने से बहुत आगे आ गए हैं। टीमें अब एक नई शासन चुनौती का सामना कर रही हैं: एजेंट प्रसार (केंद्रीकृत ट्रैकिंग, स्वामित्व या शासन के बिना एक संगठन में स्वायत्त AI एजेंटों का अनियंत्रित विकास)।

Gartner के अनुसार, 2028 तक औसत Fortune 500 उद्यम 150,000 से अधिक AI एजेंटों का उपयोग करेगा। हालांकि, फर्म के अनुसार, केवल 13% संगठनों का मानना है कि उनके पास सही AI एजेंट शासन है। पिछले साल से, तैनात करने की क्षमता पहले से कहीं अधिक आसान हो गई है। claude code और codex जैसे कोडिंग एजेंटों के आगमन के साथ-साथ विभिन्न लो-कोड/नो-कोड विकल्पों ने एजेंट परिनियोजन की बाधा को काफी कम कर दिया है। एक परिणाम यह है कि टीमें अब अपने एजेंट बेड़े के अत्यधिक बेकार टोकन उपयोग और अप्रत्याशित लागतों में शामिल होने की संभावना का सामना कर रही हैं।

एक और गंभीर चुनौती संवेदनशील डेटा के लीक होने के अतिरिक्त मार्ग हैं। कोई आश्चर्य नहीं, शासन चुनौतियां विकसित हुई हैं। वर्तमान में, मैं ग्राहकों को पहले से कहीं अधिक तेजी से एजेंट बनाते देख रहा हूं, और समस्या का आकार बदल गया है। एक साल पहले हमने एक एकल एजेंट में शासन के चार स्तंभों को जोड़ने पर ध्यान केंद्रित किया: जीवनचक्र प्रबंधन, जोखिम प्रबंधन, सुरक्षा और अवलोकनीयता। हम तब भी जानते थे कि एजेंट बनाना कठिन हिस्सा नहीं था।

अब, यह नहीं बदला है, लेकिन बदलाव क्या है? अंतर यह है कि यह एक ही समय में दर्जनों एजेंटों/उप-एजेंटों के साथ हो रहा है। एजेंट उस दर से तेजी से गुणा कर रहे हैं जितनी कई टीमें उन्हें नियंत्रित कर सकती हैं। टीमों को अब एक डेटा प्लेटफॉर्म से लैस होने की आवश्यकता है जो बनाए जा रहे एजेंटों की संख्या के साथ केंद्रीकृत ट्रैकिंग, अनुमतियां और शासन को स्केल करता है। आइए देखें कि 2026 में शासन के स्तंभ कैसे विकसित हुए हैं।

Tahun lalu pada waktu ini, saya merilis kursus Deeplearning.ai dengan Andrew Ng tentang Mengatur Agen AI dengan tujuan mendidik pengembang tentang dasar-dasar perlindungan data untuk penerapan agen yang efektif dan bertanggung jawab. Motivasi untuk kursus ini berasal dari studi pelanggaran IBM tahun 2025, yang menemukan bahwa 97% organisasi yang mengalami pelanggaran terkait AI tidak memiliki kontrol akses AI yang memadai, dan 63% tidak memiliki kebijakan tata kelola AI sama sekali. Satu tahun adalah keabadian dalam pengembangan AI, dan kita telah menempuh perjalanan panjang dari agen tanpa tata kelola atau bergulat dengan mengatur satu agen. Tim sekarang menghadapi tantangan tata kelola baru: penyebaran agen (pertumbuhan agen AI otonom yang tidak terkendali di seluruh organisasi tanpa pelacakan, kepemilikan, atau tata kelola terpusat).

Menurut Gartner, pada 2028 perusahaan Fortune 500 rata-rata akan menggunakan lebih dari 150.000 agen AI. Namun, menurut firma tersebut, hanya 13% organisasi yang percaya bahwa mereka memiliki tata kelola agen AI yang tepat. Sejak tahun lalu, kemampuan untuk menerapkan menjadi lebih mudah dari sebelumnya. Munculnya agen pengkodean seperti claude code dan codex, serta berbagai opsi low-code/no-code telah menurunkan hambatan untuk penerapan agen secara substansial. Salah satu hasilnya adalah tim sekarang dihadapkan pada kemungkinan armada agen mereka terlibat dalam penggunaan token yang sangat boros dan menimbulkan biaya yang tidak terduga.

Tantangan serius lainnya adalah jalur tambahan untuk kebocoran data sensitif. Tidak mengherankan, tantangan tata kelola telah berevolusi. Saat ini, saya melihat pelanggan membangun agen lebih cepat dari sebelumnya, dan bentuk masalahnya telah berubah. Setahun yang lalu kami fokus pada menambahkan empat pilar tata kelola ke satu agen: manajemen siklus hidup, manajemen risiko, keamanan, dan observabilitas. Kami tahu bahkan saat itu bahwa membangun agen bukanlah bagian yang sulit.

Sekarang, ini tidak berubah, tetapi apa pergeserannya? Perbedaannya adalah ini terjadi dengan puluhan agen/sub-agen pada waktu yang sama. Agen berkembang biak lebih cepat daripada kemampuan banyak tim untuk mengaturnya. Tim sekarang perlu dilengkapi dengan platform data yang menskalakan pelacakan terpusat, izin, dan tata kelola dengan jumlah agen yang sedang dibangun. Mari kita periksa bagaimana pilar tata kelola telah berevolusi pada tahun 2026.

昨年の今頃、私はAndrew Ngと共にDeeplearning.aiでAIエージェントのガバナンスに関するコースを公開しました。その目的は、効果的で責任あるエージェント展開のためのデータ保護の基本を開発者に教育することでした。コースの動機は、IBMの2025年の侵害調査にあり、AI関連の侵害を受けた組織の97%が適切なAIアクセス制御を欠き、63%がAIガバナンスポリシーを全く持っていないことが判明しました。AI開発において1年は永遠であり、私たちはガバナンスがゼロのエージェントや単一エージェントのガバナンスに苦慮する状態から大きく前進しました。チームは現在、新たなガバナンスの課題に直面しています：エージェントの蔓延（集中管理、所有権、またはガバナンスなしに組織全体で自律型AIエージェントが制御不能に増加すること）です。

Gartnerによると、2028年までに平均的なFortune 500企業は150,000以上のAIエージェントを使用するでしょう。しかし、同社によると、適切なAIエージェントガバナンスが整っていると考える組織はわずか13%です。昨年以来、展開能力はかつてないほど容易になりました。claude codeやcodexのようなコーディングエージェントの出現、そしてさまざまなローコード/ノーコードオプションにより、エージェント展開の障壁は大幅に低下しました。その結果の一つは、チームがエージェントフリートによる莫大なトークン使用の無駄と予期せぬコストの発生の可能性に直面していることです。

もう一つの深刻な課題は、機密データが漏洩する追加の経路です。当然のことながら、ガバナンスの課題は進化しています。現在、私は顧客がかつてないほど速くエージェントを構築するのを見ており、問題の形状は変化しています。1年前、私たちは単一のエージェントにガバナンスの4つの柱（ライフサイクル管理、リスク管理、セキュリティ、可観測性）を追加することに焦点を当てていました。当時から、エージェントを構築することが難しい部分ではないことは分かっていました。

現在、これは変わっていませんが、変化は何でしょうか？違いは、これが同時に数十のエージェント/サブエージェントで発生していることです。エージェントは多くのチームがガバナンスできるよりも速く増殖しています。チームは現在、構築されているエージェントの数に応じて集中管理、権限、ガバナンスを拡張するデータプラットフォームを備える必要があります。2026年にガバナンスの柱がどのように進化したかを調べてみましょう。

No ano passado, nesta época, lancei um curso da Deeplearning.ai com Andrew Ng sobre Governança de agentes de IA com o objetivo de educar desenvolvedores sobre os fundamentos da proteção de dados para uma implantação eficaz e responsável de agentes. A motivação para o curso veio do estudo de violação da IBM de 2025, que descobriu que 97% das organizações que sofreram uma violação relacionada à IA não tinham controles de acesso adequados à IA, e 63% não tinham nenhuma política de governança de IA. Um ano é uma eternidade no desenvolvimento de IA, e percorremos um longo caminho desde agentes com governança zero ou lidando com a governança de um único agente. As equipes agora estão enfrentando um novo desafio de governança: proliferação de agentes (o crescimento descontrolado de agentes de IA autônomos em uma organização sem rastreamento, propriedade ou governança centralizados).

De acordo com a Gartner, até 2028, a empresa média da Fortune 500 usará mais de 150.000 agentes de IA. No entanto, de acordo com a empresa, apenas 13% das organizações acreditam que têm a governança correta de agentes de IA em vigor. Desde o ano passado, a capacidade de implantar se tornou mais fácil do que nunca. O surgimento de agentes de codificação como claude code e codex, bem como uma variedade de opções low-code/no-code, reduziu substancialmente a barreira para a implantação de agentes. Um resultado é que as equipes agora enfrentam a possibilidade de sua frota de agentes se envolver em um uso de tokens extremamente desperdiçador e incorrer em custos imprevistos.

Outro desafio sério são os caminhos adicionais para que dados sensíveis vazem. Não surpreendentemente, os desafios de governança evoluíram. Atualmente, estou vendo clientes construírem agentes mais rápido do que nunca, e a forma do problema mudou. Há um ano, nos concentramos em adicionar os quatro pilares da governança a um único agente: gerenciamento do ciclo de vida, gerenciamento de riscos, segurança e observabilidade. Sabíamos, mesmo naquela época, que construir um agente não era a parte difícil.

Agora, isso não mudou, mas qual é a mudança? A diferença é que isso está acontecendo com dezenas de agentes/subagentes ao mesmo tempo. Os agentes estão se multiplicando mais rápido do que muitas equipes conseguem governá-los. As equipes agora precisam estar equipadas com uma plataforma de dados que dimensione o rastreamento centralizado, as permissões e a governança com o número de agentes que estão sendo construídos. Vamos examinar como os pilares da governança evoluíram em 2026.

В это время в прошлом году я выпустил курс Deeplearning.ai с Эндрю Нгом по управлению ИИ-агентами с целью обучения разработчиков основам защиты данных для эффективного и ответственного развертывания агентов. Мотивацией для курса послужило исследование утечек IBM за 2025 год, которое показало, что 97% организаций, пострадавших от утечки, связанной с ИИ, не имели надлежащего контроля доступа к ИИ, а 63% вообще не имели политики управления ИИ. Год — это вечность в разработке ИИ, и мы прошли долгий путь от агентов с нулевым управлением или борьбы с управлением одним агентом. Команды теперь сталкиваются с новой проблемой управления: распространением агентов (неконтролируемый рост автономных ИИ-агентов в организации без централизованного отслеживания, владения или управления).

Согласно Gartner, к 2028 году среднее предприятие из списка Fortune 500 будет использовать более 150 000 ИИ-агентов. Однако, по данным фирмы, только 13% организаций считают, что у них есть надлежащее управление ИИ-агентами. С прошлого года возможность развертывания стала проще, чем когда-либо. Появление кодирующих агентов, таких как claude code и codex, а также различных вариантов low-code/no-code, существенно снизило барьер для развертывания агентов. Один из результатов заключается в том, что команды теперь сталкиваются с возможностью того, что их флот агентов будет заниматься чрезвычайно расточительным использованием токенов и нести непредвиденные расходы.

Еще одна серьезная проблема — дополнительные пути утечки конфиденциальных данных. Неудивительно, что проблемы управления эволюционировали. В настоящее время я наблюдаю, как клиенты создают агентов быстрее, чем когда-либо, и форма проблемы изменилась. Год назад мы сосредоточились на добавлении четырех столпов управления к одному агенту: управление жизненным циклом, управление рисками, безопасность и наблюдаемость. Мы знали даже тогда, что создание агента не было сложной частью.

Теперь это не изменилось, но в чем сдвиг? Разница в том, что это происходит с десятками агентов/субагентов одновременно. Агенты размножаются быстрее, чем многие команды могут ими управлять. Теперь командам необходимо быть оснащенными платформой данных, которая масштабирует централизованное отслеживание, разрешения и управление в зависимости от количества создаваемых агентов. Давайте рассмотрим, как столпы управления эволюционировали в 2026 году.

去年这个时候，我与Andrew Ng在Deeplearning.ai上发布了一门关于治理AI代理的课程，旨在教育开发者掌握数据保护的基础知识，以实现有效且负责任的代理部署。该课程的动机来自IBM的2025年泄露研究，该研究发现97%遭受AI相关泄露的组织缺乏适当的AI访问控制，63%根本没有AI治理政策。在AI开发中，一年如同永恒，我们已经从零治理的代理或努力治理单个代理的阶段走了很长一段路。团队现在面临一个新的治理挑战：代理蔓延（自治AI代理在组织内不受控制的增长，缺乏集中跟踪、所有权或治理）。

根据Gartner，到2028年，平均每家财富500强企业将使用超过150,000个AI代理。然而，根据该公司，只有13%的组织认为他们拥有正确的AI代理治理。自去年以来，部署能力变得比以往任何时候都更容易。像claude code和codex这样的编码代理，以及各种低代码/无代码选项的出现，大大降低了代理部署的门槛。一个结果是，团队现在面临其代理集群可能产生大量浪费的令牌使用并招致不可预见成本的可能性。

另一个严重挑战是敏感数据泄露的额外途径。毫不奇怪，治理挑战已经演变。目前，我看到客户比以往任何时候都更快地构建代理，问题的形态已经改变。一年前，我们专注于为单个代理添加治理的四大支柱：生命周期管理、风险管理、安全性和可观察性。我们当时就知道，构建代理并不是困难的部分。

现在，这一点没有改变，但转变是什么？区别在于，这同时发生在数十个代理/子代理上。代理的繁殖速度超过了大多数团队治理它们的能力。团队现在需要配备一个数据平台，该平台能够随着构建的代理数量扩展集中跟踪、权限和治理。让我们看看治理支柱在2026年如何演变。