Почему большинство агентов — это просто блок-схемы в маске, и что нужно строить вместо них. Я написал большую часть этого в аэропорту несколько месяцев назад, а затем оставил в черновиках. Шум только усилился с тех пор, поэтому вот он. Несколько месяцев назад, возвращаясь с мастер-класса для клиента, мы обсуждали объем того, что составляет агентный ИИ, и каждый из нас приводил примеры из своего опыта. Был дискуссия о том, почему автоматизация не может решить это и как большинство случаев использования агентного ИИ — это просто glorified automation. Вопрос был: «Дай мне один реальный пример использования агента. Не демо. Не автоматизация. Реальный. Потому что всё, что я видел до сих пор, я мог бы построить с помощью движка рабочего процесса и вызова модели.» Мы все уже несколько месяцев вели дискуссии об агентном ИИ в тот момент. Мы уже спроектировали эти системы. Мы уже питчили их. И всё же, сидя там с чаем и двадцатью минутами в распоряжении, нам пришлось долго думать, чтобы привести пример, который выдержал бы тридцать секунд проверки. Это меня достаточно беспокоило, чтобы записать его. Тест, который я сначала выбрал Моя интуиция заключалась в том, чтобы определить агентный ИИ по форме работы. Требует ли задача, чтобы система принимала решения во время выполнения, которые нельзя было предвидеть в начале? Если да — агент. Если нет — автоматизация. Я вспомнил пример из авиационного обслуживания, потому что я провел предыдущие шесть месяцев там. Самолет A320 приземляется с предупреждением ECAM, НЕИСПРАВНОСТЬ ВОЗДУШНОГО БЛОКА 1. Что делает автоматизация: запускает чек-лист, уведомляет дежурного инженера, возможно, извлекает ссылку MEL. Готово. Что делает традиционное машинное обучение: предсказывает вероятность отказа компонента на основе исторических паттернов отказов, выдает оценку уверенности. Инженер всё ещё решает. Что, по моему мнению, сделает агент: он начнет с сообщения ECAM (сообщение в системах кабины самолета), запросит у CFDS (централизованная система отображения неисправностей) историю неисправностей и обнаружит, что блок 1 выдавал одну и ту же неисправность три раза за шесть недель. Это меняет картину, поэтому он обратится к TSM (руководство по устранению неполадок), определит четыре потенциальных коренных причины. Затем он проверит в AMOS (база данных, используемая в авиации по всему миру), есть ли нужные детали на складе и обнаружит, что две из этих четырех требуют клапан регулирования потока, которого нет на этой станции. Затем он проверит, какие причины можно отложить согласно MEL (минимальный список оборудования, минимум того, что самолет должен иметь, чтобы быть пригодным к полету), обнаружит, что одна из них может быть отложена в категории C (одна из многих категорий) на десять дней, посмотрит на следующие десять рейсов самолета, чтобы понять операционную стоимость откладывания, и составит рекомендацию: отложить в категории C, заказать клапан регулирования потока (FCV) для прибытия до восьмого дня, и пометить для глубокой проверки в следующем окне базового технического обслуживания. Никто не программировал заранее это дерево решений. План возник из процесса, а не предшествовал ему. Я всё ещё не был уверен в себе. И после размышлений, я считаю, что был прав. Почему этот пример не работает Потому что вы можете нарисовать эту блок-схему. CFDS, затем TSM, затем AMOS, затем MEL, затем рейсы. Это сложная блок-схема с ветвлениями, но компетентный инженер мог бы указать её заранее. Сложность не то же самое, что открытость. Дерево с двумястами ветвей всё ещё дерево. Это ошибка, которую совершают почти все pitch-деки агентного ИИ, включая мой. Мы показываем что-то замысловатое и ожидаем, что эта замысловатость сама по себе будет очевидно агентной. Это не так. Замысловатость — это просто более крупная блок-схема, а блок-схемы уже имеют технологию, которая дешевле, быстрее и гораздо надежнее любого LLM, который вы поместите в этот слот. Тогда где же настоящая граница? Известные неизвестные против неизвестных неизвестных Вот distinction, которую я провел, и она уже уже, чем большинство людей на этом рынке готовы признать. Автоматизация обрабатывает известные неизвестные. Вы не знаете, есть ли деталь на складе, но вы знаете, что проверка склада — это то, что вам нужно сделать. Агенты обрабатывают неизвестные неизвестные. Вы не знаете, что вам нужно проверить, и вы узнаете это только посмотрев. Возьмите u...
Источник: Towards Data Science · Сводку подготовил HeadlinesBriefing