HeadlinesBriefing favicon HeadlinesBriefing.com

リバースエンジニアリングJev風モデル:オプションスコアリング

Hacker News •
×

変化するテキストオプションのリストから選択する小さなモデルを訓練します。Jev風モデルは、テキストの一部とN個のテキストオプションのリストを受け取ります。単語ごとに答えを書く代わりに、1回のパスで各オプションに1つの確率を返します。JevはこのタスクのためのType Safeの商用モデルですが、Type Safeはその設計を公開していません。このリポジトリは、同じ入力と出力の形状を持つ独立系スターターモデルです。

同じオプションアテンションヘッドは、画像パッチからコントローラーボタンをスコアリングできます。10秒のフィルムは、選択された2つの5秒ウィンドウをつなぎます。7つのDoomボタンでのライブの致命的なdeadly_corridor戦闘、次に5つのキーで手を進めて指し手を打つチェスコントローラーです。Doomウィンドウは提供されたジョイントチェックポイントから取得され、その10の記録エピソードで平均0.60キルと-97.50の報酬でした。チェスウィンドウはより強いチェス専用チェックポイントから取得され、ランダムムーバーに対する50のサンプルゲームで4勝、46引き分け、0敗を記録しましたが、Stockfishレベル0に対しては0勝、2引き分け、48敗でした。ウィンドウは活動性のために選ばれたものであり、典型的なプレイや能力の主張ではありません。

ゲームエクストラをインストールし、リリースされたジョイントチェックポイントから新しい640×480のDoomトレースを記録します:uv pip install -e '.[games]' python examples/doom/play.py examples/checkpoints/joint-imitation.pt --episodes 10 --game-seconds 35.3 --device cpu --capture-resolution 640x480 --output runs/doom.mp4 --trace runs/doom-trace.json 同じ視覚レイアウトでトレースをレンダリングします。これは無声フィルムを書き出します。著者所有のサウンドトラックソースはリポジトリの一部ではないためです。(cd examples/film && npm install && npx playwright install chromium) examples/film/make-film.sh runs/doom-trace.json runs/doom-film.mp4 10

リリースにはDoomの例、チェスの例、単一ゲームのチェックポイント、共有の12オプションチェックポイントが含まれます。両方のゲームはjevlike.visionからビジュアルスコアラーをインポートします。どちらの例にも2つ目のモデルコピーはありません。アーキテクチャ 各オプションはクエリベクトルになります。これはそのテキストを表す短い数値のリストです。クエリはコンテキストトークンにアテンション重みを割り当てます。それらの重みがそのオプションの1つのコンテキストベクトルを作ります。共有のドット積が各オプションとコンテキストのペアを1つのスコアに変えます。softmaxがオプション間で実行されます。デフォルトのエンコーダーはバイト埋め込みをゼロから学習します。オプションのHugging Faceパスは凍結された事前訓練済みエンコーダーを使用します。データ形式 1行につき1つのJSONオブジェクトを使用します:{"context":"The customer needs a refund.","options":["refund","sales","technical support"],"label":0} labelは正しいオプションのゼロベースのインデックスです。各行は異なる数のオプションを持つことができ、最小は2つです。クイックスタート リポジトリのルートからこれらのコマンドを実行します:uv venv source .venv/bin/activate uv pip install -e '.[dev]' jevlike-data synthetic --output data/synthetic jevlike-train data/synthetic/train.jsonl --validation data/synthetic/validation.jsonl --output runs/synthetic.pt jevlike-eval runs/synthetic.pt data/synthetic/test.jsonl jevlike-predict runs/synthetic.pt --context "Choose the exact badge amber badger. Badge: amber badger." --option "azure crane" --option "amber badger" --option "gold heron" 評価はtop-1精度、top-3精度、期待キャリブレーション誤差、およびシャッフルコンテキスト対照を出力します。自分のデータを使う:上記の形式で訓練、検証、テストのJSONLファイルをエクスポートします。

主要エンティティ:企業:Type Safe

FAQ:Jev風モデルとは何ですか?

Jev風モデルは、テキストの一部とN個のテキストオプションのリストを受け取り、単語ごとに答えを生成するのではなく、1回のパスで各オプションに1つの確率を返します。

FAQ Q:Jev風モデルとは何ですか?

FAQ A:Jev風モデルは、テキストの一部とN個のテキストオプションのリストを受け取り、単語ごとに答えを生成するのではなく、1回のパスで各オプションに1つの確率を返します。