Les modèles de décision suscitent un intérêt croissant en tant que nouveau type d'IA : on fournit au modèle un contexte et un ensemble d'options, et il en choisit une. Entraînés spécifiquement pour cette tâche, ils peuvent la réaliser beaucoup plus vite et à moindre coût qu'un LLM. En pratique, un flux de travail hybride est un bon point de départ. Le modèle de décision gère les sélections fermées, où les options sont déjà connues ; le LLM prend en charge les parties ouvertes, qui doivent être raisonnées ou générées à partir de zéro ; et Python relie l'ensemble en gérant le flux de travail et en exécutant les opérations.
Cet article présente la construction d'un flux d'automatisation de navigateur. Après avoir reçu une demande de voyage en langage naturel, le flux navigue sur un site de recherche d'hôtels, sélectionne un hôtel adapté et prépare une demande de renseignements. L'automatisation de navigateur est l'un des usages les plus concrets des LLM, car un LLM capable d'utiliser un navigateur peut accomplir presque tout ce qu'une personne peut faire. Des tâches telles que lire des pages, cliquer sur des boutons, choisir des options dans des listes déroulantes et remplir des formulaires relèvent de trois catégories : la sélection fermée, la génération ouverte et l'orchestration.
La répartition des tâches découle naturellement de ces catégories. Le modèle de décision choisit parmi les options déjà présentes sur la page, comme une date dans un calendrier, ou la prochaine action à effectuer, comme ouvrir le calendrier ou envoyer un formulaire. Le LLM rédige les messages et les explications. Python collecte les informations sur le site, les prépare pour les modèles, récupère leurs réponses et effectue les opérations dans le navigateur.
Le résultat est un cycle répétitif : lire la page, laisser le modèle de décision choisir la prochaine action, et ne faire appel au LLM que lorsqu'un texte généré est nécessaire. L'exemple mesure aussi si l'utilisation d'un modèle de décision rend le flux plus rapide que le recours à un LLM à chaque étape.
Source: Towards Data Science · Résumé par HeadlinesBriefing