HeadlinesBriefing favicon HeadlinesBriefing.com

Cara Membangun Model JEV dari LLM Sumber Terbuka

Towards Data Science •
×

JEV adalah model AI yang dirancang untuk berfungsi sebagai Engine Sistem 1 untuk program komputer, memberikan keputusan cepat satu langkah daripada output percakapan yang lambat. Mengubah LLM sumber terbuka kecil Qwen menjadi klasifikasi teks cepat dengan mengganti kepala model bahasa kepala dengan kepala keputusan terstruktur. Berbeda dengan besar model bahasa tradisional yang menghasilkan pemikiran yang panjang (pemikiran Sistem 2), JEV langsung menghasilkan bersih, terbaca mesin perintah seperti [CATEGORY: LETTER, CONFIDENCE: 98%] secara instan.

Ini menghadap antara pemrograman berbasis aturan ketat dan pemahaman AI yang nuansa. Terinspirasi dari sistem pemikiran Daniel Kahneman dari buku "Pikir Cepat dan Lambat" (2011), JEV memungkinkan pengembang membangun 'smart if-statements' untuk aplikasi real-time seperti pemfilteran surat, di kecepatan dan keandalan krusial. Dengan menghilangkan fluff percakapan, JEV memanfaatkan kecerdasan LLM untuk keputusan yang cepat dan dapat diprediksi tanpa menunggu generasi teks lengkap.

Pendekatan ini ideal untuk tugas volume tinggi, latency rendah yang memerlukan klasifikasi data dunia nyata yang acak. JEV mempertahankan pemahaman model sambil menghilangkan ketidakpastian dari variasi frasa. Ini mewakili pergeseran ke arah AI yang berpikir intuitif dan segera bertindak, sehingga cocok untuk sistem produksi di mana keterlambatan tidak diterima.

Posting ini muncul secara asli di Towards Data Science, merinci cara mengimplementasikan JEV menggunakan LLM sumber terbuka untuk integrasi AI praktis.