Damit ein KI-Agent vom Proof of Concept zu einem zuverlässigen, produktionsreifen Unternehmensworkflow wird, muss er Anforderungen an Skalierbarkeit, Reaktionsfähigkeit und Kosteneffizienz erfüllen. Agenten werden benötigt, weil konversationelle Erkenntnisse aus Daten oft nicht ausreichen. LLMs können planen, schlussfolgern und handeln, und Agenten sind die logischen Konstrukte rund um das „Gehirn“ des LLM: Sie nutzen Werkzeuge, interagieren mit externen APIs, korrigieren eigene Fehler und arbeiten mit anderen Agenten zusammen.
Agentische Systeme stützen sich auf viele hochfrequente Entscheidungen, etwa welcher nächste Schritt folgen soll, welcher Agent ihn übernehmen soll, welches Werkzeug zu verwenden ist und ob genügend Kontext für eine Antwort an den Nutzer vorhanden ist. Eine wichtige Entwicklung ist das Aufkommen kostengünstiger, kalibrierter Entscheidungsmodelle, wie etwa JEV von Type Safe. Sie verlagern deterministische Arbeitslasten von den LLMs weg, damit diese sich auf tiefgehendes Schlussfolgern und Synthese konzentrieren können. Ähnlich wie beim Retrieval bewegt sich die agentische Landschaft insgesamt weg von naiven Einzelagenten-Schleifen hin zu sorgfältig entwickelten Multi-Agenten-Workflows und eingeschränkten Architekturen.
Der Artikel bietet einen praxisorientierten Tiefblick auf sechs Architekturmuster. Er untersucht, wie jedes funktioniert, visualisiert seinen Datenfluss und erklärt die Rolle des Context Engineering bei der Verwaltung des Arbeitsgedächtnisses des LLM. Ein Agent besteht aus vier Säulen: einem zentralen LLM, das Logik, Werkzeuge und Aktionen orchestriert, der Planung und dem Kontrollfluss sowie dem Gedächtnis.
Context Engineering ist ein zentrales Kriterium für die Produktionsreife. Der Kontext eines Agenten ist hochdynamisch, da sich mit jeder Aktion Beobachtungen, Fehler und Zwischengedanken ansammeln. Alles an den Prompt anzuhängen bläht das Kontextfenster auf, erhöht Latenz und Kosten und kann dazu führen, dass das LLM den Überblick über feinkörnige Fakten verliert. Eine zentrale Technik ist die State Projection, die nur den Kontext einspeist, der für den aktuellen Workflow-Schritt unbedingt erforderlich ist.
Quelle: Towards Data Science · Zusammengefasst von HeadlinesBriefing