As arquiteturas de Geração Aumentada por Recuperação (RAG) expandiram-se muito além do padrão original de recuperar e gerar. Sistemas contemporâneos incorporam cada vez mais recuperação densa e léxica, reescrita de consultas, fusão de classificação, reranking neural, decomposição de perguntas, recuperação corretiva, reflexão e orquestração baseada em agentes. Essas técnicas podem melhorar materialmente o desempenho em tarefas complexas de busca de informação.

No entanto, elas são frequentemente introduzidas antes que o subsistema de recuperação subjacente tenha sido avaliado independentemente. Estudos recentes mostram que métodos de recuperação relativamente convencionais permanecem altamente competitivos: a recuperação léxica funciona bem em domínios especializados, a recuperação híbrida com reranking fornece linhas de base sólidas, e até sistemas agênticos funcionam melhor quando construídos sobre uma recuperação mais forte.

A qualidade da recuperação e o raciocínio agêntico abordam partes diferentes do problema. Quando as evidências podem ser recuperadas por meio de uma etapa de recuperação bem definida, a principal preocupação é a qualidade da busca. Quando a recuperação é iterativa, multi-salto ou depende de evidências intermediárias, a recuperação baseada em agentes se torna muito mais útil. A complexidade arquitetônica deve corresponder a um modo de falha demonstrado.

Quando as evidências existem em uma unidade recuperável mas falham em entrar na janela de contexto, há uma maior probabilidade de que o problema principal esteja no subsistema de busca e recuperação. Do ponto de vista de design de sistema, recuperação e geração são operações conceitualmente separadas cujos modos de falha devem ser avaliados independentemente.

Perguntas frequentes: Por que a complexidade do RAG deve ser conquistada em vez de adotada como padrão?

Porque camadas adicionais de raciocínio não podem corrigir uma falha raiz de recuperação. Quando evidências relevantes estão classificadas fora do conjunto de candidatos, nenhuma quantidade de reescrita de consultas, reranking ou orquestração agêntica irá recuperá-las. A complexidade deve ser introduzida apenas após a recuperação ser avaliada independentemente e um modo de falha específico ser identificado.