Un desarrollador ha ajustado un modelo de lenguaje de 360M de parámetros para que actúe como una terminal. No hay ningún shell ni sistema de archivos detrás. En su lugar, cada pulsación de tecla se introduce en el modelo, que predice cómo cambia la pantalla. Según el autor, puede crear archivos, ejecutar vim y tmux, jugar al snake y, por lo general, recordar lo que se escribió unos comandos antes. Las mejoras más importantes se lograron enseñando al modelo a corregir sus propios errores y a decodificar las filas de la pantalla en paralelo. La demostración funciona en un navegador y ocupa unos 208 MB. Los usuarios pueden escribir "pythoon" para comprobar que no se trata de un shell real.
El proyecto se inspiró en Genie 3, que sugería un futuro en el que las aplicaciones se aprenden en lugar de programarse. El autor redujo esa idea desde un mundo de juego a una terminal. Una terminal es una cuadrícula de caracteres en lugar de píxeles, y los datos de entrenamiento se pueden generar ejecutando shells reales. El modelo se basa en Qwen2.5-Coder-0.5B y se ajustó con sesiones de terminal grabadas de programas reales que se ejecutaban dentro de Docker.
Los modelos de lenguaje estándar añaden tokens uno a uno, lo cual no encaja con una terminal, donde una sola pulsación puede actuar por sí misma y la salida no siempre va a la parte inferior de la pantalla. En cambio, el modelo predice cambios en una cuadrícula de caracteres. Cada sesión comienza con una instantánea del tamaño de la pantalla, su contenido y la posición del cursor. Las pulsaciones se envían como los bytes sin procesar que recibiría una terminal real, y el modelo responde con las filas que hay que reescribir y la nueva posición del cursor. El tiempo también es una entrada, de modo que un token WAIT permite que el snake siga moviéndose sin pulsar ninguna tecla.
Para evitar regenerar todas las filas cuando la pantalla se desplaza, el autor añadió una operación COPY que mueve filas de la pantalla anterior, lo que ahorra miles de tokens por pulsación. La demostración está diseñada para un navegador de escritorio con WebGPU y un teclado físico, y se recomiendan Chrome o Edge.
Fuente: Hacker News · Resumido por HeadlinesBriefing