HeadlinesBriefing favicon HeadlinesBriefing.com

Kev: Model Keputusan Kecil pada Qwen3.5

Hacker News •
×

Kev adalah keluarga model keputusan kecil yang dibangun pada Qwen3.5, berbasis pada Architecture Unmasked Jev. Anda dapat menggunakan berat pra-train atau melatih sendiri. API kompatibel dengan System One Type Safe, sehingga Anda dapat mengarahkan SDK Python mereka ke server lokal Anda. Tersedia dalam ukuran 0.8B, 4B, dan 9B dengan kode pelatihan dan data evaluasi. Mendukung pertanyaan ya/tidak (noul), pilihan ganda (choice), dan penilaian (score) dalam satu permintaan. Pertanyaan berbagi teks input tetapi tidak dapat membaca satu sama lain. Berjalan di CUDA dan Apple Silicon; model 4B dan 9B muat dalam Mac 32 GB menggunakan bf16.

Memulai cepat memerlukan Python 3.12+ dan uv. Ikutklon repositori dan jalankan model 4B secara lokal. Pertama kali menjalankannya akan mengunduh adapter dan model dasar. Anda juga dapat menentukan checkpoint lokal atau revisi Hub.

Sebuah web playground memungkinkan Anda mencoba input dan memeriksa bagaimana urutan opsi memengaruhi jawaban. Sertakan preset untuk menguji isolasi pertanyaan dan demo catur di mana papan dimasukkan dan gerakan legal adalah opsi Choice.

Model dimulai dengan Kev-4B. Gunakan Kev-9B untuk akurasi dan kapasitas yang lebih tinggi.