HeadlinesBriefing favicon HeadlinesBriefing.com

Kev: Kleine Entscheidungsmodelle auf Qwen3.5

Hacker News •
×

Kev ist eine Familie kleiner Entscheidungsmodelle, die auf Qwen3.5 aufbauen und auf Jev's Architecture Unmasked basieren. Sie können vortrainierte Gewichte verwenden oder Ihre eigenen trainieren. Die API entspricht System One von Type Safe, sodass Sie deren Python-SDK auf Ihren lokalen Server richten können. Verfügbar in den Größen 0.8B, 4B und 9B mit Trainingscode und Evaluierungsdaten. Unterstützt yes/no (noul), multiple-choice (choice) und rating (score) Fragen in einer Anfrage. Die Fragen teilen sich die Eingabetexte, können sich aber nicht gegenseitig lesen. Läuft auf CUDA und Apple Silicon; 4B- und 9B-Modelle passen in einen 32-GB-Mac mit bf16.

Schneller Start erfordert Python 3.12+ und uv. Klonen Sie den Repository und führen Sie das 4B-Modell lokal aus. Beim ersten Durchlauf werden der Adapter und das Basismodell heruntergeladen. Sie können auch einen lokalen Checkpoint oder Hub-Revision angeben.

Ein Web-Playground ermöglicht es, Eingaben zu testen und zu prüfen, wie die Reihenfolge der Optionen Antworten beeinflusst. Enthält Voreinstellungen zum Testen der Fragenisolation und eine Schachdemo, bei der das Brett als Eingabe und gültige Züge als Choice-Optionen dargestellt werden.

Modelle beginnen mit Kev-4B. Verwenden Sie Kev-9B für höhere Genauigkeit und Kapazität.