HeadlinesBriefing favicon HeadlinesBriefing.com

Retrieve-for-Train: ускорение ИИ-поиска

Google AI Blog •
×

Современные поисковые приложения должны возвращать связный набор результатов, а не вариации одного совпадения. Для «туристического снаряжения» пользователи хотят палатку, спальный мешок, горелку и налобный фонарь. Системы используют fan-out запросов, чтобы разбить широкий промпт на подзапросы. Но обучение LLM декомпозиции запросов с учётом базы данных истощает огромный бюджет размышлений. Zero-shot LLM — это универсальные предсказатели текста, не оптимизированные для целевого корпуса, поэтому им требуется расширенное вычисление во время тестирования для оптимизации свойств на уровне набора, таких как разнообразие и покрытие, оставаясь при этом обоснованными.

В статье ICML 2026 «Efficient, Property-Aligned Fan-Out Retrieval via RL-Compiled Diffusion» мы решаем эту проблему с помощью фреймворка компиляции награды в данные. Вместо большого бюджета размышлений при выводе наш фреймворк Retrieve-for-Train использует офлайн-обучение с подкреплением для обнаружения fan-out, согласованных с наградой, и компиляции их в супервизию. Дистиллируя это поведение в лёгкий диффузионный ретривер, мы обеспечиваем эффективный однопроходный fan-out запросов при выводе.

Готовые LLM сталкиваются с двумя проблемами: парафрастический коллапс, когда они генерируют избыточные запросы, такие как «бохо-фестивальная мода» и «бохо-фестивальная одежда», вместо курток с бахромой или платьев крючком; и узкие места авторегрессионной задержки, требующие сотен токенов цепочки рассуждений. Это создаёт нижний предел задержки, противоречащий субсекундному поиску. Retrieve-for-Train рассматривает обучение как офлайн-тренировочную сессию.

Ключевые сущности: Компании: Google AI Blog