Les architectures de Génération Augmentée par la Recherche (RAG) se sont considérablement développées au-delà du modèle initial de recherche et de génération. Les systèmes contemporains intègrent de plus en plus la recherche dense et lexicale, la reformulation de requêtes, la fusion de classements, le reclassement neuronal, la décomposition de questions, la recherche corrective, la réflexion et l'orchestration basée sur des agents. Ces techniques peuvent améliorer sensiblement les performances sur les tâches complexes de recherche d'information.

Cependant, elles sont souvent introduites avant que le sous-système de recherche sous-jacent n'ait été évalué indépendamment. Des études récentes montrent que les méthodes de recherche relativement conventionnelles restent hautement compétitives : la recherche lexicale fonctionne bien dans les domaines spécialisés, la recherche hybride avec reclassement fournit des références solides, et même les systèmes agéntiques fonctionnent mieux lorsqu'ils sont construits sur une recherche plus forte.

La qualité de la recherche et le raisonnement agéntique traitent de parties différentes du problème. Lorsque les preuves peuvent être récupérées grâce à une étape de recherche bien définie, la préoccupation principale est la qualité de la recherche. Lorsque la recherche est itérative, multi-sauts ou dépend de preuves intermédiaires, la recherche basée sur des agents devient beaucoup plus utile. La complexité architecturale devrait correspondre à un mode d'échec démontré.

Lorsque les preuves existent dans une unité récupérable mais ne parviennent pas à entrer dans la fenêtre de contexte, il y a une probabilité plus élevée que le problème principal réside dans le sous-système de recherche et de récupération. Du point de vue de la conception du système, la recherche et la génération sont des opérations conceptuellement séparées dont les modes d'échec devraient être évalués indépendamment.

FAQ : Pourquoi la complexité du RAG devrait-elle être gagnée plutôt qu'adoptée par défaut ?

Parce que les couches supplémentaires de raisonnement ne peuvent pas corriger un échec fondamental de recherche. Lorsque les preuves pertinentes sont classées en dehors de l'ensemble de candidats, aucune quantité de reformulation de requêtes, de reclassement ou d'orchestration agéntique ne pourra les récupérer. La complexité ne devrait être introduite qu'après une évaluation indépendante de la recherche et l'identification d'un mode d'échec spécifique.