HeadlinesBriefing favicon HeadlinesBriefing.com

Мультидокументный RAG для несвязанных PDF

Towards Data Science •
×

Построение системы поиска, выходящей за рамки одного документа, обычно требует индекса с общими полями. Однако во многих папках находятся несвязанные файлы без общих метаданных. Спросите, какую колонку они разделяют. Нет клиента, суммы или эффективной даты, которая означала бы одно и то же для всех них. Когда документы не имеют общих колонок, традиционная индексация терпит неудачу. Подготовка вместо этого сводится к двум артефактам: одна строка резюме на файл плюс собственный оглавление каждого файла. Это устраняет сложное сопоставление схем.

Архитектура опирается на маршрутизатор, а не на читалку, для генерации резюме. Поиск маршрутизируется на два уровня, выбирая релевантные файлы до того, как любой полный контент попадет в промпт. Этот метод вложенного плана обеспечивает точность, не перегружая окна контекста. Фреймворк относится к серии о корпоративном интеллекте документов, разработанной для неструктурированных архивов.

Валидация использует папку из 63 открытых PDF-файлов общим объемом 4 211 страниц, включая контрольные меры безопасности NIST, статьи по машинному обучению и рыночные отчеты. Маршрутизация фильтрует нерелевантные файлы перед началом чтения. Хотя плоские списки файлов в конечном итоге перестают масштабироваться, эта навигация обеспечивает надежную основу для работы с разнородными коллекциями.

Ключевые сущности: Компании: NIST, Всемирный банк, arXiv