Las arquitecturas de Generación Aumentada por Recuperación (RAG) se han expandido considerablemente más allá del patrón original de recuperar y generar. Los sistemas contemporáneos incorporan cada vez más recuperación densa y léxica, reescritura de consultas, fusión de rankings, reranking neuronal, descomposición de preguntas, recuperación correctiva, reflexión y orquestación basada en agentes. Estas técnicas pueden mejorar materialmente el rendimiento en tareas complejas de búsqueda de información.

Sin embargo, se introducen frecuentemente antes de que el subsistema de recuperación subyacente haya sido evaluado independientemente. Estudios recientes muestran que los métodos de recuperación convencionales siguen siendo altamente competitivos: la recuperación léxica funciona bien en dominios especializados, la recuperación híbrida con reranking proporciona líneas base sólidas, e incluso los sistemas agénticos funcionan mejor cuando se construyen sobre una recuperación más fuerte.

La calidad de la recuperación y el razonamiento agéntico abordan partes diferentes del problema. Cuando la evidencia puede recuperarse mediante un paso de recuperación bien definido, la principal preocupación es la calidad de la búsqueda. Cuando la recuperación es iterativa, de múltiples saltos o depende de evidencia intermedia, la recuperación basada en agentes se vuelve mucho más útil. La complejidad arquitectónica debería corresponder a un modo de fallo demostrado.

Cuando la evidencia existe en una unidad recuperable pero no logra entrar en la ventana de contexto, hay una mayor probabilidad de que el problema dominante resida en el subsistema de búsqueda y recuperación. Desde una perspectiva de diseño de sistemas, la recuperación y la generación son operaciones conceptualmente separ cuyas fallas deberían evaluarse independientemente.

Preguntas frecuentes: ¿Por qué debería ganarse la complejidad de RAG en lugar de adoptarse como predeterminada?

Porque las capas adicionales de razonamiento no pueden arreglar un fallo raíz de recuperación. Cuando la evidencia relevante está clasificada fuera del conjunto de candidatos, ninguna cantidad de reescritura de consultas, reranking u orquestación agéntica la recuperará. La complejidad debería introducirse solo después de que la recuperación haya sido evaluada independientemente y se haya identificado un modo de fallo específico.