Архитектуры генерации с дополнением через поиск (RAG) значительно расширились за пределы исходного шаблона «найти и сгенерировать». Современные системы всё чаще включают плотный и лексический поиск, переписывание запросов, объединение рангов, нейронный переранг, декомпозицию вопросов, корректирующий поиск, рефлексию и оркестровку на основе агентов. Эти методы могут существенно улучшить производительность при выполнении сложных задач поиска информации.

Однако они часто внедряются до того, как базовая подсистема поиска была независимо оценена. Недавние исследования показывают, что сравнительно традиционные методы поиска остаются высококонкурентными: лексический поиск хорошо работает в специализированных областях, гибридный поиск с перерангом обеспечивает надёжную базу, а даже агентные системы работают лучше, если построены на более сильном поиске.

Качество поиска и агентное рассуждение затрагивают разные аспекты проблемы. Когда доказательства могут быть восстановлены через чётко определённый шаг поиска, главная забота — качество поиска. Когда поиск является итеративным, многократным или зависит от промежуточных доказательств, агентный поиск становится гораздо более полезным. Архитектурная сложность должна соответствовать продемонстрированному режиму отказа.

Когда доказательства существуют в извлекаемой единице, но не попадают в окно контекста, вероятность того, что основная проблема лежит в подсистеме поиска и извлечения, выше. С точки зрения проектирования системы, поиск и генерация — концептуально отдельные операции, и их режимы отказа должны оцениваться независимо.

Часто задаваемые вопросы: Почему сложность RAG должна быть заработана, а не принята по умолчанию?

Потому что дополнительные слои рассуждений не могут исправить коренной сбой поиска. Когда соответствующие доказательства ранжируются вне набора кандидатов, никакое количество переписывания запросов, переранга или агентной оркестровки не сможет их восстановить. Сложность должна вводиться только после независимой оценки поиска и выявления конкретного режима отказа.