Vor einem Jahr zu dieser Zeit habe ich einen Deeplearning.ai-Kurs mit Andrew Ng zur Governance von KI-Agenten veröffentlicht, mit dem Ziel, Entwickler in die Grundlagen des Datenschutzes für eine effektive und verantwortungsvolle Bereitstellung von Agenten einzuführen. Die Motivation für den Kurs kam von IBMs Verletzungsstudie von 2025, die ergab, dass 97% der Organisationen, die eine KI-bezogene Verletzung erlitten, keine angemessenen KI-Zugriffskontrollen hatten, und 63% überhaupt keine KI-Governance-Richtlinie hatten. Ein Jahr ist eine Ewigkeit in der KI-Entwicklung, und wir haben einen langen Weg zurückgelegt von Agenten ohne Governance oder dem Kampf mit der Governance eines einzelnen Agenten. Teams stehen jetzt vor einer neuen Governance-Herausforderung: Agentenausbreitung (das unkontrollierte Wachstum autonomer KI-Agenten in einer Organisation ohne zentralisierte Nachverfolgung, Eigentum oder Governance).
Laut Gartner wird das durchschnittliche Fortune-500-Unternehmen bis 2028 über 150.000 KI-Agenten verwenden. Laut der Firma glauben jedoch nur 13% der Organisationen, dass sie die richtige KI-Agenten-Governance eingerichtet haben. Seit letztem Jahr ist die Fähigkeit zur Bereitstellung einfacher denn je geworden. Das Aufkommen von Codierungsagenten wie claude code und codex sowie eine Vielzahl von Low-Code/No-Code-Optionen haben die Hürde für die Agentenbereitstellung erheblich gesenkt. Ein Ergebnis ist, dass Teams jetzt mit der Möglichkeit konfrontiert sind, dass ihre Agentenflotte enorm verschwenderischen Token-Verbrauch betreibt und unvorhergesehene Kosten verursacht.
Eine weitere ernsthafte Herausforderung sind die zusätzlichen Wege, über die sensible Daten austreten können. Nicht überraschend haben sich die Governance-Herausforderungen weiterentwickelt. Derzeit sehe ich, wie Kunden Agenten schneller als je zuvor bauen, und die Form des Problems hat sich verschoben. Vor einem Jahr konzentrierten wir uns darauf, die vier Säulen der Governance zu einem einzigen Agenten hinzuzufügen: Lebenszyklusmanagement, Risikomanagement, Sicherheit und Beobachtbarkeit. Wir wussten schon damals, dass das Bauen eines Agenten nicht der schwierige Teil war.
Jetzt hat sich das nicht geändert, aber was ist die Verschiebung? Der Unterschied ist, dass dies gleichzeitig mit Dutzenden von Agenten/Unteragenten geschieht. Agenten vermehren sich schneller, als viele Teams sie regieren können. Teams müssen jetzt mit einer Datenplattform ausgestattet sein, die zentralisierte Nachverfolgung, Berechtigungen und Governance mit der Anzahl der gebauten Agenten skaliert. Lassen Sie uns untersuchen, wie sich die Säulen der Governance im Jahr 2026 entwickelt haben.
Quelle: Towards Data Science · Zusammengefasst von HeadlinesBriefing