Entscheidungsmodelle gewinnen als neue Art von KI an Aufmerksamkeit: Man gibt dem Modell einen Kontext und eine Reihe von Optionen, und es wählt eine davon aus. Speziell für diese Aufgabe trainiert, können sie das deutlich schneller und günstiger erledigen als ein LLM. In der Praxis ist ein hybrider Workflow ein guter Ausgangspunkt. Das Entscheidungsmodell übernimmt geschlossene Auswahlen, bei denen die Optionen bereits feststehen. Das LLM übernimmt die offenen Teile, die argumentativ hergeleitet oder von Grund auf erzeugt werden müssen. Python verbindet alles, indem es den Workflow steuert und die Operationen ausführt.
Dieser Beitrag beschreibt den Aufbau eines Browser-Automatisierungs-Workflows. Nach einer Reiseanfrage in natürlicher Sprache navigiert der Workflow auf einer Hotelsuchwebsite, wählt ein passendes Hotel aus und bereitet eine Anfrage vor. Browser-Automatisierung ist eine der praktischsten Anwendungen von LLMs, denn ein LLM, das einen Browser bedienen kann, erreicht nahezu alles, was ein Mensch erreichen kann. Aufgaben wie das Lesen von Seiten, das Klicken auf Schaltflächen, das Auswählen von Dropdown-Optionen und das Ausfüllen von Formularen fallen in drei Kategorien: geschlossene Auswahl, offene Generierung und Orchestrierung.
Die Aufgabenteilung ergibt sich aus diesen Kategorien ganz natürlich. Das Entscheidungsmodell wählt aus Optionen, die bereits auf der Seite vorhanden sind, etwa ein Datum im Kalender, oder die nächste Aktion, etwa das Öffnen des Kalenders oder das Absenden eines Formulars. Das LLM formuliert Nachrichten und Erklärungen. Python sammelt Informationen von der Website, bereitet sie für die Modelle auf, nimmt deren Antworten entgegen und führt die Browseraktionen aus.
Das Ergebnis ist ein wiederkehrender Zyklus: die Seite lesen, das Entscheidungsmodell die nächste Aktion wählen lassen und das LLM nur dann aufrufen, wenn generierter Text benötigt wird. Das Beispiel misst außerdem, ob der Einsatz eines Entscheidungsmodells den Workflow schneller macht als eine Abhängigkeit vom LLM bei jedem Schritt.
Quelle: Towards Data Science · Zusammengefasst von HeadlinesBriefing