GitHub - firelex/jeff: Qwen3.5とGemma 4のファインチューニングによるゼロショット分類用の小型・高速な決定モデル。Jevと同じリクエスト形式でコードに組み込めます。状況を説明し、選択肢を平易な言葉で列挙すると、Jeffが1回のフォワードパスで各選択肢の調整済み確率を返します。生成テキストなし、解析不要：RTX PRO 6000では1決定あたり約22ミリ秒、Apple M4 Max（MLX）では28ミリ秒です。

ゼロショットとは、選択肢がサポートキュー、ユーザー意図、モデレーションラベル、音声コマンド、ゲームの動きなど何でもよいことを意味します。カテゴリがトレーニングデータに含まれている必要はなく、説明するだけでJeffが選択します。これらは非常に小さなモデルです。選択肢間で極めて高速かつ調整済みの判断を行い、ローカルコードに簡単に組み込めます。ベンチマークではJevに迫り、時には上回りますが、このサイズでは、はるかに大きなモデルで動作するJevの推論能力には及びません。

完全にローカルハードウェア上で構築。1台のRTX PRO 6000ワークステーションGPUでトレーニング（0.8Bは約2時間、2Bは約3.5時間でトレーニング）、すべての合成トレーニングデータは2台のDGX Spark上でオープンモデル（Qwen3.8-Flash-Next）によって作成され、Mac Bookでテスト。クラウドGPUは使用せず、トレーニングデータにクローズドモデルの出力は含まれません。JeffはJevと同じリクエスト形式を使用しますが、Jevの開発元であるType Safeとは提携しておらず、その承認も受けていません。Hugging Face上のモデル：Jeff-Qwen3.5-0.8B、Jeff-Qwen3.5-2B、Jeff-Gemma4-E2B。

ベンチマーク：5つの公開ベンチマークからの4,599問に加え、Jev Benchの公開ハードティア。Jeffの総合スコアは分類とグラウンディングにおいてJevに匹敵するか、それを上回ります。