Los modelos de decisión están ganando atención como un nuevo tipo de IA: le das al modelo un contexto y un conjunto de opciones, y él elige una. Entrenados específicamente para esta tarea, pueden hacerlo mucho más rápido y barato que un LLM. En la práctica, un flujo de trabajo híbrido es un buen punto de partida. El modelo de decisión se encarga de las selecciones cerradas, donde las opciones ya son conocidas; el LLM se ocupa de las partes abiertas que deben razonarse o generarse desde cero; y Python une todo gestionando el flujo de trabajo y ejecutando las operaciones.
Este artículo muestra cómo construir un flujo de automatización del navegador. Tras recibir una solicitud de viaje en lenguaje natural, el flujo navega por un sitio web de búsqueda de hoteles, selecciona un hotel adecuado y prepara una consulta. La automatización del navegador es uno de los usos más prácticos de los LLM, ya que un LLM capaz de operar un navegador puede llegar a casi cualquier cosa que pueda hacer una persona. Tareas como leer páginas, hacer clic en botones, elegir opciones de menús desplegables y completar formularios se dividen en tres categorías: selección cerrada, generación abierta y orquestación.
La división del trabajo se deriva de forma natural de estas categorías. El modelo de decisión elige entre opciones ya presentes en la página, como una fecha en un calendario, o la siguiente acción a realizar, como abrir el calendario o enviar un formulario. El LLM redacta mensajes y explicaciones. Python recopila información del sitio web, la prepara para los modelos, recibe sus respuestas y ejecuta las operaciones en el navegador.
El resultado es un ciclo que se repite: leer la página, dejar que el modelo de decisión elija la siguiente acción y llamar al LLM solo cuando se necesite texto generado. El ejemplo también mide si usar un modelo de decisión hace que el flujo sea más rápido que depender de un LLM en cada paso.
Fuente: Towards Data Science · Resumido por HeadlinesBriefing