HeadlinesBriefing favicon HeadlinesBriefing.com

Kev : Petits modèles de décision sur Qwen3.5

Hacker News •
×

Kev est une famille de petits modèles de décision construits sur Qwen3.5, basés sur l'Architecture Unmasked de Jev. Vous pouvez utiliser des poids pré-entraînés ou former le vôtre. L'API correspond à System One de Type Safe, vous pouvez donc pointer leur SDK Python vers votre serveur local. Disponible en tailles de 0.8B, 4B et 9B avec le code d'entraînement et les données d'évaluation. Prend en charge les questions yes/no (noul), multiple-choice (choice) et rating (score) dans la même requête. Les questions partagent le texte d'entrée mais ne peuvent pas se lire mutuellement. Fonctionne sur CUDA et Apple Silicon ; les modèles 4B et 9B tiennent dans un Mac de 32 Go en utilisant bf16.

Le démarrage rapide nécessite Python 3.12+ et uv. Clonez le dépôt et exécutez le modèle 4B localement. La première exécution télécharge l'adaptateur et le modèle de base. Vous pouvez également spécifier un point de contrôle local ou une révision de Hub.

Un playground web vous permet d'essayer les entrées et de vérifier comment l'ordre des options affecte les réponses. Inclut des presets pour tester l'isolation des questions et une démo d'échecs où le plateau est entré et les coups légaux sont des options Choice.

Les modèles commencent par Kev-4B. Utilisez Kev-9B pour une meilleure précision et capacité.