HeadlinesBriefing favicon HeadlinesBriefing.com

Jeeves: 推理でJevライクな意思決定モデルを改善

Hacker News •
×

Jeevesは推理Jevスタイルの分類器で、SFTとCISPOで訓練されています。Qwen3.5-9B, LoRA, pointer headを持つ9B Jevライクモデルを搭載し、決定前に思考します。ブロック-4拡散ドラフターを使用します。ドメイン外テストデータではKev-9BとJevを上回り(0.889対0.822と0.857)、Jev Benchのパブリックティアでは(0.935対0.866)。Yes/No、multiple-choice、rating質問をJev対応APIでサポートします。H100 GPU1台での推論は考えないで~0.3秒、考えると中央値3.3秒です。Jeevesは難しいJev Benchアイテムでより高い精度(0.865対0.730)を達成し、不明な回答に対する不確実性は低く(0.055対0.090)なります。モデルはCUDA(HopperのFP8カーネル)で動作し、完全な訓練コードとデータを含みます。クイックスタートにはPython 3.12とCUDA GPUが必要です。重みはHugging Faceからダウンロードしてサービング可能です。融合チェックポイントも使用できます。例リクエストは部門、エスカレーション、挫折スコアリングの構造化された出力と自信と確率を示します。