HeadlinesBriefing favicon HeadlinesBriefing.com

Kev:基于Qwen3.5的小型决策模型

Hacker News •
×

Kev是一个基于Qwen3.5构建的小型决策模型家族,基于Jev的Architecture Unmasked。您可以使用预训练权重或自行训练。API匹配Type Safe的System One,因此可以将他们的Python SDK指向本地服务器。提供0.8B、4B和9B三种规格,附带训练代码和评估数据。支持在同一请求中处理yes/no(noul)、multiple-choice(choice)和rating(score)问题。问题共享输入文本但无法相互读取。支持CUDA和Apple Silicon;4B和9B模型在使用bf16时可适配32 GB的Mac。

快速开始需要Python 3.12+和uv。克隆仓库并本地运行4B模型。首次运行会下载适配器和基础模型。您也可以指定本地检查点或Hub版本。

一个Web玩具让您可以尝试输入并检查选项顺序如何影响答案。包括测试问题隔离的预设,以及一个棋盘演示,其中棋盘作为输入,合法走法作为Choice选项。

模型从Kev-4B开始。使用Kev-9B可获得更高的准确率和容量。