HeadlinesBriefing favicon HeadlinesBriefing.com

Jeeves:推理提升 Jev 似决策模型

Hacker News •
×

Jeeves 是一个具有扩散起草功能的推理 Jev-style 分类器,采用 SFT 和 CISPO 训练。它具有一个 9B Jev-like 模型(Qwen3.5-9B,LoRA,指针头),思考后再决定,使用块-4 扩散起草器。该模型在域外测试数据上的表现优于 Kev-9B 和 Jev(0.889 对比 0.822 和 0.857),并在 Jev Bench 公开类别上(0.935 对比 0.866)。它通过 Jev 兼容的 API 支持是/否、多选和评分问题。推理无需思考约 0.3 秒,在单张 H100 GPU 上思考的中位时间为 3.3 秒。Jeeves 在难 Jev Bench 项目上实现了更高的准确率(0.865 对比 0.730),且对不可知答案的不确定性更低(0.055 对比 0.090)。该模型运行在 CUDA(Hopper 以 FP8 核心)上,并包含完整的训练代码和数据。快速启动需要 Python 3.12 和 CUDA GPU。权重可通过 Hugging Face 下载并服务,或使用融合检查点。示例请求展示用于部门、升级和挫败度评分的结构化输出,以及置信度和概率。