HeadlinesBriefing favicon HeadlinesBriefing.com

Retrieve-for-Train: Peningkatan Kecepatan Pencarian AI

Google AI Blog •
×

Aplikasi pencarian modern harus mengembalikan sekumpulan hasil yang koheren, bukan variasi dari satu kecocokan. Untuk "perlengkapan berkemah", pengguna menginginkan tenda, kantong tidur, kompor, dan lampu kepala. Sistem menggunakan fan-out kueri untuk memecah prompt yang luas menjadi sub-kueri. Tetapi mengajarkan LLM dekomposisi kueri yang sadar basis data menghabiskan anggaran berpikir yang besar. LLM zero-shot adalah prediktor teks umum, tidak dioptimalkan untuk korpus target, sehingga mereka memerlukan komputasi waktu uji yang diperluas untuk mengoptimalkan properti tingkat himpunan seperti keragaman dan cakupan sambil tetap terlandasi.

Dalam makalah ICML 2026 "Efficient, Property-Aligned Fan-Out Retrieval via RL-Compiled Diffusion", kami mengatasi hal ini melalui kerangka kompilasi reward-ke-data. Alih-alih anggaran berpikir inferensi yang besar, kerangka Retrieve-for-Train kami menggunakan pembelajaran penguatan offline untuk menemukan fan-out selaras reward dan mengompilasinya menjadi supervisi. Dengan mendistilasi perilaku ini ke retriever difusi ringan, kami memungkinkan fan-out kueri satu lintasan yang efisien saat inferensi.

LLM siap pakai menghadapi dua tantangan: keruntuhan parafrastik, di mana mereka menghasilkan kueri berlebihan seperti "fesyen festival bohemian" dan "pakaian festival bohemian" alih-alih jaket rumbai atau gaun rajutan; dan hambatan latensi autoregresif, yang memerlukan ratusan token rantai pemikiran. Ini menciptakan batas bawah latensi yang bertentangan dengan pencarian sub-detik. Retrieve-for-Train memperlakukan pelatihan sebagai sesi latihan offline.

Entitas Kunci: Perusahaan: Google AI Blog