HeadlinesBriefing favicon HeadlinesBriefing.com

Kev:Qwen3.5上の小型決定モデル

Hacker News •
×

KevはQwen3.5に基づく小型決定モデルのファミリーです。JevのArchitecture Unmaskedに基づいています。事前トレーニング済みの重みを使用したり、自分でトレーニングしたりできます。APIはType SafeのSystem Oneと一致するため、彼らのPython SDKをローカルサーバーに指向できます。0.8B、4B、9Bのサイズで、トレーニングコードと評価データが付属しています。同じリクエスト内でyes/no(noul)、multiple-choice(choice)、rating(score)の質問をサポートします。質問は入力テキストを共有しますが、お互いを読み取ることはできません。CUDAとApple Siliconをサポート;4Bと9Bのモデルはbf16を使用すれば32 GBのMacで適応します。

高速スタートにはPython 3.12以上とuvが必要です。リポジトリをクローンして4Bモデルをローカルで実行します。最初の実行時にアダプタとベースモデルがダウンロードされます。ローカルチェックポイントやHubリビジョンを指定することもできます。

Webプレイグラウンドを使用して、入力を試し、オプションの順序が答えにどのように影響するかを確認できます。質問の分離をテストするためのプリセットと、ボードを入力として取り込み、合法的な手をChoiceオプションとして提示するチェスデモが含まれています。

モデルはKev-4Bから始まります。より高い正確さと容量が必要な場合はKev-9Bを使用します。