Большие языковые модели всё лучше справляются со сложными многоэтапными задачами, что породило новую категорию систем на основе LLM, известных как агенты. Это руководство, составленное на основе многочисленных внедрений у клиентов, предназначено для продуктовых и инженерных команд, которые создают своих первых агентов. В нём представлены подходы к выявлению перспективных сценариев использования, шаблоны логики агентов и их оркестрации, а также лучшие практики, помогающие сделать агентов безопасными, предсказуемыми и эффективными.
Что такое агент? Обычное программное обеспечение помогает пользователям упорядочивать рабочие процессы, тогда как агенты выполняют эти процессы от имени пользователя с высокой степенью самостоятельности. Рабочий процесс — это последовательность шагов, необходимых для достижения цели, например решения проблемы клиента, бронирования ресторана, внесения изменений в код или создания отчёта. Простые чат-боты, одношаговые LLM и классификаторы тональности, которые не используют LLM для управления выполнением процесса, агентами не являются.
Агент использует LLM для управления выполнением рабочего процесса и принятия решений. Он определяет, когда процесс завершён, при необходимости корректирует свои действия и может остановиться и передать управление пользователю в случае сбоя. Для сбора контекста и выполнения действий во внешних системах у агента есть набор инструментов; он выбирает подходящий инструмент в зависимости от текущего состояния процесса и всегда работает в рамках чётко заданных ограничений.
Когда стоит создавать агента? Агенты подходят для рабочих процессов, где традиционные подходы на основе правил не справляются. Анализ мошенничества с платежами наглядно показывает разницу: движок правил работает как контрольный список, а агент на основе LLM оценивает контекст и тонкие закономерности, выявляя подозрительную активность даже тогда, когда явное правило не нарушено. В первую очередь стоит выбирать процессы, связанные со сложным принятием решений, трудно поддерживаемыми правилами или интенсивной работой с неструктурированными данными. Если ваш сценарий явно не соответствует этим критериям, может оказаться достаточно детерминированного решения.
Источник: OpenAI Blog · Сводку подготовил HeadlinesBriefing