HeadlinesBriefing favicon HeadlinesBriefing.com

Jeeves: Alasan Meningkatkan Model Keputusan Jev-like

Hacker News •
×

Jeeves adalah classifier gaya Jev dengan diffusion drafter, dilatih dengan SFT dan CISPO. Ia mempunyai model 9B gaya Jev (Qwen3.5-9B, LoRA, pointer head) yang memikirkan sebelum memutuskan, menggunakan block-4 diffusion drafter. Model ini mengunggul Kev-9B dan Jev pada uji coba data luar domain (0.889 berbanding 0.822 dan 0.857) dan pada tier awam Jev Bench (0.935 berbanding 0.866).

Ia menjawab soal yes/no, multiple-choice, dan rating melalui API yang kompatibel dengan Jev. Inferensi mengambil ~0.3s tanpa berpikir dan 3.3s median dengan berpikir pada satu GPU H100. Jeeves mencapai akurasi yang lebih tinggi pada item Jev Bench yang sukar (0.865 berbanding 0.730) dan ketidakpastian yang lebih rendah pada jawaban yang tidak diketahui (0.055 berbanding 0.090).

Model ini berjalan pada CUDA (Hopper untuk FP8 kernel) dan mencakup penuh kode dan data latihan. Quickstart Python 3.12 dan GPU CUDA diperlukan. Bobot dapat diunduh dan disajikan melalui Hugging Face atau fused checkpoints.

Contoh permintaan menunjukkan output terstruktur untuk department, escalation, dan frustration scoring dengan keyakinan dan probabilitas.