HeadlinesBriefing favicon HeadlinesBriefing.com

Reverse-Engineered Jev-ähnliches Modell: Optionsbewertung

Hacker News •
×

Trainiere ein kleines Modell, das aus einer sich ändernden Liste von Textoptionen auswählt. Ein Jev-ähnliches Modell nimmt einen Textabschnitt und eine Liste von N Textoptionen. Es gibt eine Wahrscheinlichkeit für jede Option in einem Durchlauf zurück, anstatt eine Antwort Wort für Wort zu schreiben. Jev ist das kommerzielle Modell von Type Safe für diese Aufgabe, aber Type Safe hat sein Design nicht veröffentlicht. Dieses Repository ist ein unabhängiges Starter-Modell mit derselben Ein- und Ausgabeform.

Derselbe Options-Attention-Kopf kann Controller-Tasten aus Bild-Patches bewerten. Ein zehnsekündiger Film verbindet zwei ausgewählte fünfsekündige Fenster: Live-tödlicher deadly_corridor-Kampf auf den sieben Doom-Tasten, dann ein Schach-Controller, der zu Zügen läuft und sie mit fünf Tasten spielt. Das Doom-Fenster stammt aus dem bereitgestellten gemeinsamen Checkpoint, der über seine zehn aufgezeichneten Episoden durchschnittlich 0,60 Kills und -97,50 Belohnung erzielte. Das Schach-Fenster stammt aus dem stärkeren reinen Schach-Checkpoint, der in 50 Stichprobenpartien gegen einen zufälligen Spieler 4 Siege, 46 Remis und 0 Niederlagen erzielte, aber gegen Stockfish Level 0 0 Siege, 2 Remis und 48 Niederlagen. Die Fenster wurden nach Aktivität ausgewählt und sind keine Aussagen über typisches Spiel oder Kompetenz.

Installiere die Spiel-Extras und zeichne einen frischen 640 mal 480 Doom-Trace aus dem veröffentlichten gemeinsamen Checkpoint auf: uv pip install -e '.[games]' python examples/doom/play.py examples/checkpoints/joint-imitation.pt --episodes 10 --game-seconds 35.3 --device cpu --capture-resolution 640x480 --output runs/doom.mp4 --trace runs/doom-trace.json Rendere den Trace im selben visuellen Layout. Dies schreibt einen stummen Film, da die vom Autor gehaltene Soundtrack-Quelle nicht Teil des Repositories ist. (cd examples/film && npm install && npx playwright install chromium) examples/film/make-film.sh runs/doom-trace.json runs/doom-film.mp4 10

Das Release enthält das Doom-Beispiel, das Schach-Beispiel, die Einzelspiel-Checkpoints und den gemeinsamen 12-Optionen-Checkpoint. Beide Spiele importieren den visuellen Scorer aus jevlike.vision; es gibt keine zweite Modellkopie in einem der Beispiele. Architektur Jede Option wird zu einem Query-Vektor, einer kurzen Liste von Zahlen, die ihren Text repräsentiert. Die Query weist den Kontext-Tokens Attention-Gewichte zu. Diese Gewichte bilden einen Kontextvektor für diese Option. Ein gemeinsames Skalarprodukt verwandelt jedes Option-Kontext-Paar in einen Score. Ein Softmax läuft über die Optionen. Der Standard-Encoder lernt Byte-Embeddings von Grund auf. Der optionale Hugging Face-Pfad verwendet einen eingefrorenen vortrainierten Encoder. Datenformat Verwende ein JSON-Objekt pro Zeile: {"context":"The customer needs a refund.","options":["refund","sales","technical support"],"label":0} label ist der nullbasierte Index der richtigen Option. Jede Zeile kann eine unterschiedliche Anzahl von Optionen haben, mit einem Minimum von zwei. Schnellstart Führe diese Befehle aus dem Repository-Stamm aus: uv venv source .venv/bin/activate uv pip install -e '.[dev]' jevlike-data synthetic --output data/synthetic jevlike-train data/synthetic/train.jsonl --validation data/synthetic/validation.jsonl --output runs/synthetic.pt jevlike-eval runs/synthetic.pt data/synthetic/test.jsonl jevlike-predict runs/synthetic.pt --context "Choose the exact badge amber badger. Badge: amber badger." --option "azure crane" --option "amber badger" --option "gold heron" Die Auswertung gibt Top-1-Genauigkeit, Top-3-Genauigkeit, erwarteten Kalibrierungsfehler und eine gemischte Kontextkontrolle aus. Verwende deine eigenen Daten: Exportiere Trainings-, Validierungs- und Test-JSONL-Dateien im obigen Format.

Schlüsselentitäten: Unternehmen: Type Safe