Große Sprachmodelle sind zunehmend in der Lage, komplexe, mehrstufige Aufgaben zu bewältigen, was zu einer neuen Kategorie LLM-gestützter Systeme geführt hat, den sogenannten Agenten. Dieser Leitfaden, der auf zahlreichen Kundeneinsätzen basiert, richtet sich an Produkt- und Engineering-Teams, die ihre ersten Agenten entwickeln. Er bietet Rahmenwerke zur Identifizierung vielversprechender Anwendungsfälle, Muster für Agentenlogik und Orchestrierung sowie Best Practices, damit Agenten sicher, berechenbar und effektiv arbeiten.
Was ist ein Agent? Während herkömmliche Software Nutzern hilft, Arbeitsabläufe zu straffen, führen Agenten diese Abläufe im Auftrag des Nutzers mit hohem Maß an Eigenständigkeit aus. Ein Arbeitsablauf ist eine Abfolge von Schritten, die zum Erreichen eines Ziels nötig sind, etwa die Lösung eines Kundenserviceproblems, die Buchung einer Restaurantreservierung, das Einreichen einer Code-Änderung oder die Erstellung eines Berichts. Einfache Chatbots, Einzelantwort-LLMs und Sentiment-Klassifikatoren, die das LLM nicht zur Steuerung der Ablaufausführung nutzen, sind keine Agenten.
Ein Agent nutzt ein LLM, um die Ausführung eines Arbeitsablaufs zu steuern und Entscheidungen zu treffen. Er erkennt, wann ein Ablauf abgeschlossen ist, korrigiert bei Bedarf seine Aktionen und kann im Fehlerfall anhalten und die Kontrolle an den Nutzer zurückgeben. Zudem verfügt er über Werkzeuge, mit denen er Kontext sammeln und Aktionen in externen Systemen ausführen kann; dabei wählt er je nach aktuellem Zustand des Arbeitsablaufs das passende Werkzeug und arbeitet stets innerhalb klar definierter Leitplanken.
Wann sollte man einen Agenten bauen? Agenten eignen sich für Arbeitsabläufe, bei denen traditionelle regelbasierte Ansätze an ihre Grenzen stoßen. Die Analyse von Zahlungsbetrug verdeutlicht den Unterschied: Eine Regel-Engine arbeitet wie eine Checkliste, während ein LLM-Agent den Kontext und subtile Muster bewertet und verdächtige Aktivitäten erkennt, selbst wenn keine eindeutige Regel verletzt wird. Priorisieren Sie Arbeitsabläufe mit komplexer Entscheidungsfindung, schwer wartbaren Regeln oder starker Abhängigkeit von unstrukturierten Daten. Erfüllt Ihr Anwendungsfall diese Kriterien nicht eindeutig, kann eine deterministische Lösung ausreichen.
Quelle: OpenAI Blog · Zusammengefasst von HeadlinesBriefing