Ketika chatbot LLM menjawab pertanyaan kebijakan, ia harus menemukan informasi spesifik yang cocok dengan niat pengguna di ribuan dokumen. Masalah pengambilan ini mengharuskan model memahami makna di luar pencocokan kata kunci, menangani variasi kebijakan dan aturan yang usang. Solusinya melibatkan generasi yang ditingkatkan pengambilan (RAG), di mana model embedding mengubah pertanyaan menjadi representasi numerik.

Sistem pencarian kemudian menemukan bagian yang menjanjikan dari basis data vektor, menyediakan teks asli ke LLM untuk jawaban yang akurat secara kontekstual. Sangat penting, dokumen harus dibagi menjadi unit yang lebih kecil yang disebut potongan untuk menyeimbangkan presisi dan konteks. Sebuah buku panduan perjalanan yang mencakup penerbangan, akomodasi, dan asuransi, ketika diperlakukan sebagai satu item, menghasilkan representasi luas yang mengaburkan aturan spesifik.

Potongan yang lebih kecil yang berfokus pada topik tertentu—seperti penggantian biaya hotel versus persyaratan persetujuan—memungkinkan sistem mengidentifikasi bagian yang tepat daripada seluruh dokumen. Strategi pemotongan ini menciptakan keseimbangan antara mengambil konteks yang cukup dan menjaga spesifisitas. Artikel ini mengeksplorasi bagaimana LLM dapat secara efektif menemukan informasi penting dalam koleksi dokumen besar, memastikan jawaban akurat dan mengutip sumber yang valid.

Ini mencakup model embedding, sistem pencarian, dan implementasi praktis pola RAG untuk aplikasi LLM yang andal di berbagai basis pengetahuan.