Os modelos de decisão estão ganhando atenção como um novo tipo de IA: você fornece ao modelo um contexto e um conjunto de opções, e ele escolhe uma delas. Treinados especificamente para essa tarefa, eles conseguem fazê-la muito mais rápido e de forma mais barata do que um LLM. Na prática, um fluxo de trabalho híbrido é um bom ponto de partida. O modelo de decisão cuida das seleções fechadas, em que as opções já são conhecidas; o LLM cuida das partes abertas, que precisam ser raciocinadas ou geradas do zero; e o Python integra tudo, gerenciando o fluxo de trabalho e executando as operações.
Este post mostra como construir um fluxo de automação de navegador. Depois de receber uma solicitação de viagem em linguagem natural, o fluxo navega por um site de busca de hotéis, seleciona um hotel adequado e prepara uma consulta. A automação de navegador é um dos usos mais práticos dos LLMs, já que um LLM capaz de operar um navegador consegue acessar quase tudo o que uma pessoa consegue. Tarefas como ler páginas, clicar em botões, escolher opções em menus suspensos e preencher formulários se enquadram em três categorias: seleção fechada, geração aberta e orquestração.
A divisão de tarefas decorre naturalmente dessas categorias. O modelo de decisão escolhe entre opções já presentes na página, como uma data em um calendário, ou a próxima ação a executar, como abrir o calendário ou enviar um formulário. O LLM redige mensagens e explicações. O Python coleta informações do site, as prepara para os modelos, recebe as respostas deles e executa as operações no navegador.
O resultado é um ciclo que se repete: ler a página, deixar o modelo de decisão escolher a próxima ação e chamar o LLM somente quando for necessário texto gerado. O exemplo também avalia se usar um modelo de decisão torna o fluxo mais rápido do que depender de um LLM em todas as etapas.
Fonte: Towards Data Science · Resumido por HeadlinesBriefing