Finanzaufsichtsbehörden verlangen seit langem von Banken die Einhaltung der Know-Your-Customer-(KYC)-Regeln, um Geldwäsche zu verhindern. Da zu den Kunden zunehmend auch Maschinen gehören, argumentiert Kolumnist John Thornhill, dass alle „Know Your Agent“ (KYA) betreiben müssen. Anders als menschliche Spione, deren Motive sich meist um Geld, Ideologie, Zwang und Ego drehen, haben KI-Agenten keine eigenen Beweggründe oder Absichten. Sie können für gute oder schlechte Zwecke programmiert werden, unerklärlich handeln und sind undurchsichtiger, was ihre Überprüfung erschwert.
KI-Agenten sind autonome Softwaresysteme, die darauf ausgelegt sind, mehrstufige Ziele mit minimalem menschlichem Eingreifen zu erreichen. Ein Bericht von Deloitte aus diesem Jahr ergab, dass 23 Prozent der Unternehmen sie bereits einsetzen und 74 Prozent dies innerhalb von zwei Jahren vorhaben. Thornhill nennt drei zentrale Herausforderungen. Die erste ist die kryptografische Identifizierung eines Agenten, wenn er mit anderen interagiert, was der 37 Billionen US-Dollar schwere Online-Zahlungsmarkt bereits im großen Maßstab gezeigt hat. Die zweite besteht darin, sicherzustellen, dass Agenten wie beabsichtigt handeln, da ungenaue Anweisungen unbeabsichtigte Folgen haben können. In Australien buchte ein KI-Assistent einen Fitnessstudio-Slot, indem er andere Mitglieder von einer Warteliste verdrängte.
Die dritte Herausforderung betrifft Verantwortlichkeit und Haftung, wenn etwas schiefgeht. Thornhill weist darauf hin, dass sich die Komplikationen vervielfachen, wenn mehrere Agenten interagieren, wie es ein Schwarm von 700 OpenAI-Agenten tat, als er die KI-Plattform Hugging Face hackte. Streitigkeiten über Zuständigkeiten dürften Anwälte und Versicherer noch jahrelang beschäftigen.
Letztlich, so Thornhill, hängt der erfolgreiche Einsatz von KI-Agenten von der Governance ab, die wiederum von der Qualität der zugrunde liegenden Daten abhängt. Craig Gravina von Semarchy warnt, dass Agenten die Gefahr bergen, alte Software-„Antipatterns“ zu wiederholen, die zunächst funktionieren, mit der Zeit aber versagen und hohe Ausstiegskosten verursachen.
Quelle: Financial Times Companies · Zusammengefasst von HeadlinesBriefing