HeadlinesBriefing favicon HeadlinesBriefing.com

Modèle de type Jev rétro-ingénieré : scoring d'options

Hacker News •
×

Entraînez un petit modèle qui choisit parmi une liste changeante d'options textuelles. Un modèle de type Jev prend un morceau de texte et une liste de N options textuelles. Il renvoie une probabilité pour chaque option en une seule passe au lieu d'écrire une réponse mot par mot. Jev est le modèle commercial de Type Safe pour cette tâche, mais Type Safe n'a pas publié sa conception. Ce dépôt est un modèle starter indépendant avec la même forme d'entrée et de sortie.

La même tête d'attention d'options peut scorer des boutons de manette à partir de patchs d'image. Un film de dix secondes réunit deux fenêtres sélectionnées de cinq secondes : combat mortel en direct de deadly_corridor sur les sept boutons Doom, puis une manette d'échecs qui se déplace vers les coups et les joue avec cinq touches. La fenêtre Doom provient du checkpoint conjoint fourni, qui a obtenu en moyenne 0,60 élimination et -97,50 de récompense sur ses dix épisodes enregistrés. La fenêtre d'échecs provient du checkpoint plus fort réservé aux échecs, qui a obtenu 4 victoires, 46 nulles et 0 défaite sur 50 parties échantillonnées contre un joueur aléatoire, mais 0 victoire, 2 nulles et 48 défaites contre Stockfish niveau 0. Les fenêtres ont été sélectionnées pour l'activité et ne constituent pas des affirmations de jeu typique ou de compétence.

Installez les extras de jeux et enregistrez une nouvelle trace Doom 640 par 480 depuis le checkpoint conjoint publié : uv pip install -e '.[games]' python examples/doom/play.py examples/checkpoints/joint-imitation.pt --episodes 10 --game-seconds 35.3 --device cpu --capture-resolution 640x480 --output runs/doom.mp4 --trace runs/doom-trace.json Rendu de la trace dans la même mise en page visuelle. Cela écrit un film silencieux car la source de bande sonore appartenant à l'auteur ne fait pas partie du dépôt. (cd examples/film && npm install && npx playwright install chromium) examples/film/make-film.sh runs/doom-trace.json runs/doom-film.mp4 10

La version inclut l'exemple Doom, l'exemple d'échecs, les checkpoints mono-jeu et le checkpoint partagé à 12 options. Les deux jeux importent le scorer visuel depuis jevlike.vision ; il n'y a pas de seconde copie du modèle dans l'un ou l'autre exemple. Architecture Chaque option devient un vecteur de requête, une courte liste de nombres représentant son texte. La requête attribue des poids d'attention aux tokens de contexte. Ces poids forment un vecteur de contexte pour cette option. Un produit scalaire partagé transforme chaque paire option-contexte en un score. Un softmax s'exécute sur les options. L'encodeur par défaut apprend les embeddings d'octets à partir de zéro. Le chemin Hugging Face optionnel utilise un encodeur pré-entraîné gelé. Format des données Utilisez un objet JSON par ligne : {"context":"The customer needs a refund.","options":["refund","sales","technical support"],"label":0} label est l'indice basé sur zéro de l'option correcte. Chaque ligne peut avoir un nombre différent d'options, avec un minimum de deux. Démarrage rapide Exécutez ces commandes depuis la racine du dépôt : uv venv source .venv/bin/activate uv pip install -e '.[dev]' jevlike-data synthetic --output data/synthetic jevlike-train data/synthetic/train.jsonl --validation data/synthetic/validation.jsonl --output runs/synthetic.pt jevlike-eval runs/synthetic.pt data/synthetic/test.jsonl jevlike-predict runs/synthetic.pt --context "Choose the exact badge amber badger. Badge: amber badger." --option "azure crane" --option "amber badger" --option "gold heron" L'évaluation affiche la précision top-1, la précision top-3, l'erreur de calibration attendue et un contrôle à contexte mélangé. Utilisez vos propres données : Exportez les fichiers JSONL d'entraînement, de validation et de test dans le format ci-dessus.

Entités clés : Entreprises : Type Safe

FAQ : Qu'est-ce qu'un modèle de type Jev ?

Un modèle de type Jev prend un morceau de texte et une liste de N options textuelles et renvoie une probabilité pour chaque option en une seule passe, plutôt que de générer une réponse mot par mot.

FAQ Q : Qu'est-ce qu'un modèle de type Jev ?

FAQ A : Un modèle de type Jev prend un morceau de texte et une liste de N options textuelles et renvoie une probabilité pour chaque option en une seule passe, plutôt que de générer une réponse mot par mot.