Модели решений привлекают все больше внимания как новый вид ИИ: вы передаете модели контекст и набор вариантов, а она выбирает один из них. Специально обученные для этой задачи, они справляются с ней значительно быстрее и дешевле, чем LLM. На практике гибридный процесс — хорошая отправная точка. Модель решений обрабатывает закрытые выборы, где варианты уже известны; LLM берет на себя открытые части, которые нужно обдумать или сгенерировать с нуля; а Python связывает все воедино, управляя процессом и выполняя операции.
В этой статье рассматривается создание процесса автоматизации браузера. Получив запрос на поездку на естественном языке, процесс переходит на сайт поиска отелей, выбирает подходящий отель и готовит запрос. Автоматизация браузера — одно из самых практичных применений LLM, поскольку LLM, способная работать с браузером, может выполнить почти все, что может человек. Задачи вроде чтения страниц, нажатия кнопок, выбора вариантов в выпадающих списках и заполнения форм делятся на три категории: закрытый выбор, открытая генерация и оркестрация.
Разделение обязанностей естественно вытекает из этих категорий. Модель решений выбирает из вариантов, уже имеющихся на странице, например дату в календаре или следующее действие, такое как открытие календаря или отправка формы. LLM пишет сообщения и пояснения. Python собирает информацию с сайта, готовит ее для моделей, получает их ответы и выполняет операции в браузере.
В итоге получается повторяющийся цикл: прочитать страницу, позволить модели решений выбрать следующее действие и обращаться к LLM только тогда, когда нужен сгенерированный текст. В примере также измеряется, ускоряет ли использование модели решений процесс по сравнению с опорой на LLM на каждом шаге.
Источник: Towards Data Science · Сводку подготовил HeadlinesBriefing