Beberapa waktu lalu, kami bertekad untuk membangun platform pencarian kode semantik terbaik yang bisa kami buat: sebuah pipeline RAG yang memberikan agen LLM bukti yang tepat dan dapat dikutip dari repositori nyata, bukan dari apa pun yang muncul di permukaan oleh grep. Solusi akhirnya adalah Air Context. Kami berhasil membuatnya berfungsi, menempatkannya ke dalam produksi, dan mengumpulkan banyak pengalaman berharga selama prosesnya. Dalam seri postingan ini, kami akan membagikan bagian-bagian yang kami harap seseorang telah memberi tahu kami pada hari pertama.
Agen pengkodean tidak diragukan lagi adalah lompatan teknologi terbesar untuk pengembangan perangkat lunak di dekade kita. Namun, seiring dengan semakin banyaknya proses pengembangan yang menjadi digerakkan oleh agen, efisiensi agen dan kualitas kode yang dihasilkan menjadi semakin penting. Untuk basis kode skala besar khususnya, agen akan menghabiskan banyak waktu untuk mencari potongan kode yang relevan.
Saat mencoba menemukan cuplikan kode yang tepat, agen akan menggunakan alat pencarian kode tradisional seperti pencarian kata kunci dan grep. Alat-alat ini mengharuskan agen untuk mengetahui terlebih dahulu teks persis apa yang harus dicari. Di sinilah retrieval-augmented generation (RAG) berperan. Jika kita dapat mengindeks kode sumber dengan cara yang menangkap semantiknya dan kemudian memungkinkan agen untuk mengambil potongan yang relevan sesuai permintaan menggunakan pencarian teks bebas, kita menciptakan antarmuka yang memainkan kekuatan agen.
Seperti banyak ide hebat di era agen, implementasi prototipe asli sangatlah sederhana. Solusi tingkat produksi yang dievaluasi dengan baik tentu saja tidak. Bagian pertama dari seri ini akan mencakup tahap awal pipeline: parsing dan chunking, di mana file sumber mentah dibagi menjadi unit-unit dengan cakupan yang tepat, dan vektorisasi, di mana unit-unit tersebut diubah menjadi representasi yang mendukung pencarian semantik.
Sumber: Hacker News · Diringkas oleh HeadlinesBriefing