في هذا الوقت من العام الماضي، أصدرت دورة Deeplearning.ai مع Andrew Ng حول حوكمة وكلاء الذكاء الاصطناعي بهدف تعليم المطورين أساسيات حماية البيانات للنشر الفعال والمسؤول للوكلاء. جاء الدافع للدورة من دراسة اختراق IBM لعام 2025، التي وجدت أن 97% من المؤسسات التي تعرضت لاختراق متعلق بالذكاء الاصطناعي تفتقر إلى ضوابط الوصول المناسبة للذكاء الاصطناعي، و63% ليس لديها أي سياسة لحوكمة الذكاء الاصطناعي على الإطلاق. عام هو أبدية في تطوير الذكاء الاصطناعي، وقد قطعنا شوطًا طويلاً من وكلاء بدون حوكمة أو التعامل مع حوكمة وكيل واحد. تواجه الفرق الآن تحدي حوكمة جديد: انتشار الوكلاء (النمو غير المنضبط لوكلاء الذكاء الاصطناعي المستقلين عبر المؤسسة دون تتبع مركزي أو ملكية أو حوكمة).
وفقًا لـ Gartner، بحلول 2028، ستستخدم مؤسسة Fortune 500 المتوسطة أكثر من 150,000 وكيل ذكاء اصطناعي. ومع ذلك، وفقًا للشركة، يعتقد 13% فقط من المؤسسات أن لديها حوكمة وكلاء الذكاء الاصطناعي المناسبة. منذ العام الماضي، أصبحت القدرة على النشر أسهل من أي وقت مضى. أدى ظهور وكلاء الترميز مثل claude code و codex، بالإضافة إلى مجموعة متنوعة من الخيارات منخفضة الكود/بدون كود، إلى خفض حاجز نشر الوكلاء بشكل كبير. إحدى النتائج هي أن الفرق تواجه الآن احتمال أن يتسبب أسطول وكلائها في استخدام مهدر للرموز بشكل كبير وتكبد تكاليف غير متوقعة.
التحدي الخطير الآخر هو المسارات الإضافية لتسرب البيانات الحساسة. ليس من المستغرب أن تحديات الحوكمة قد تطورت. حاليًا، أشاهد العملاء يبنون وكلاء أسرع من أي وقت مضى، وقد تغير شكل المشكلة. قبل عام، ركزنا على إضافة الركائز الأربع للحوكمة إلى وكيل واحد: إدارة دورة الحياة، وإدارة المخاطر، والأمان، والمراقبة. كنا نعلم حتى ذلك الحين أن بناء وكيل لم يكن الجزء الصعب.
الآن، هذا لم يتغير، ولكن ما هو التحول؟ الفرق هو أن هذا يحدث مع عشرات الوكلاء/الوكلاء الفرعيين في نفس الوقت. يتضاعف الوكلاء بشكل أسرع مما تستطيع العديد من الفرق حوكمتهم. تحتاج الفرق الآن إلى أن تكون مجهزة بمنصة بيانات تقوم بتوسيع نطاق التتبع المركزي والأذونات والحوكمة مع عدد الوكلاء الذين يتم بناؤهم. دعونا نفحص كيف تطورت ركائز الحوكمة في عام 2026.
المصدر: Towards Data Science · لخّصه HeadlinesBriefing