HeadlinesBriefing favicon HeadlinesBriefing.com

Modelo tipo Jev de ingeniería inversa: puntuación de opciones

Hacker News •
×

Entrena un modelo pequeño que elige entre una lista cambiante de opciones de texto. Un modelo tipo Jev toma un fragmento de texto y una lista de N opciones de texto. Devuelve una probabilidad para cada opción en una sola pasada en lugar de escribir una respuesta palabra por palabra. Jev es el modelo comercial de Type Safe para esta tarea, pero Type Safe no ha publicado su diseño. Este repositorio es un modelo iniciador independiente con la misma forma de entrada y salida.

La misma cabeza de atención de opciones puede puntuar botones de controlador a partir de parches de imagen. Un filme de diez segundos une dos ventanas seleccionadas de cinco segundos: combate letal en vivo de deadly_corridor en los siete botones de Doom, luego un controlador de ajedrez que camina hacia las piezas y las juega con cinco teclas. La ventana de Doom provino del checkpoint conjunto proporcionado, que promedió 0.60 bajas y -97.50 de recompensa en sus diez episodios registrados. La ventana de ajedrez provino del checkpoint más fuerte solo de ajedrez, que obtuvo 4 victorias, 46 tablas y 0 derrotas en 50 partidas muestreadas contra un jugador aleatorio, pero 0 victorias, 2 tablas y 48 derrotas contra Stockfish nivel 0. Las ventanas se seleccionaron por actividad y no son afirmaciones de juego típico ni de competencia.

Instala los extras de juegos y graba un nuevo trazado de Doom de 640 por 480 desde el checkpoint conjunto publicado: uv pip install -e '.[games]' python examples/doom/play.py examples/checkpoints/joint-imitation.pt --episodes 10 --game-seconds 35.3 --device cpu --capture-resolution 640x480 --output runs/doom.mp4 --trace runs/doom-trace.json Renderiza el trazado en el mismo diseño visual. Esto escribe un filme silencioso porque la fuente de banda sonora propiedad del autor no forma parte del repositorio. (cd examples/film && npm install && npx playwright install chromium) examples/film/make-film.sh runs/doom-trace.json runs/doom-film.mp4 10

La versión incluye el ejemplo de Doom, el ejemplo de ajedrez, los checkpoints de un solo juego y el checkpoint compartido de 12 opciones. Ambos juegos importan el puntuador visual desde jevlike.vision; no hay una segunda copia del modelo en ninguno de los ejemplos. Arquitectura Cada opción se convierte en un vector de consulta, una breve lista de números que representa su texto. La consulta asigna pesos de atención a los tokens de contexto. Esos pesos forman un vector de contexto para esa opción. Un producto punto compartido convierte cada par de opción y contexto en una puntuación. Un softmax se ejecuta entre las opciones. El codificador predeterminado aprende incrustaciones de bytes desde cero. La ruta opcional de Hugging Face usa un codificador preentrenado congelado. Formato de datos Usa un objeto JSON por línea: {"context":"The customer needs a refund.","options":["refund","sales","technical support"],"label":0} label es el índice basado en cero de la opción correcta. Cada fila puede tener un número diferente de opciones, con un mínimo de dos. Inicio rápido Ejecuta estos comandos desde la raíz del repositorio: uv venv source .venv/bin/activate uv pip install -e '.[dev]' jevlike-data synthetic --output data/synthetic jevlike-train data/synthetic/train.jsonl --validation data/synthetic/validation.jsonl --output runs/synthetic.pt jevlike-eval runs/synthetic.pt data/synthetic/test.jsonl jevlike-predict runs/synthetic.pt --context "Choose the exact badge amber badger. Badge: amber badger." --option "azure crane" --option "amber badger" --option "gold heron" La evaluación imprime la precisión top-1, la precisión top-3, el error de calibración esperado y un control de contexto barajado. Usa tus propios datos: Exporta archivos JSONL de entrenamiento, validación y prueba en el formato anterior.

Entidades clave: Empresas: Type Safe