Seorang pengembang telah menyempurnakan model bahasa berparameter 360M agar berperilaku sebagai terminal. Tidak ada shell atau sistem berkas di baliknya. Sebaliknya, setiap penekanan tombol dimasukkan ke model, lalu model memprediksi bagaimana layar akan berubah. Menurut penulisnya, model ini dapat membuat berkas, menjalankan vim dan tmux, memainkan snake, dan biasanya mengingat apa yang diketik beberapa perintah sebelumnya. Peningkatan terbesar datang dari pengajaran model untuk memperbaiki kesalahannya sendiri dan dari dekode baris layar secara paralel. Demo ini berjalan di peramban dan berukuran sekitar 208 MB. Pengguna dapat mengetik "pythoon" untuk melihat bahwa ini bukan shell sungguhan.
Proyek ini terinspirasi oleh Genie 3, yang mengisyaratkan masa depan ketika aplikasi dipelajari, bukan diprogram. Penulis memperkecil gagasan itu dari dunia permainan menjadi terminal. Terminal adalah kisi karakter, bukan piksel, dan data pelatihan dapat dihasilkan dengan menjalankan shell sungguhan. Model ini didasarkan pada Qwen2.5-Coder-0.5B dan disempurnakan dengan sesi terminal yang direkam dari program sungguhan yang berjalan di dalam Docker.
Model bahasa standar menambahkan token satu per satu, yang tidak cocok untuk terminal, karena satu penekanan tombol dapat bekerja sendiri dan keluaran tidak selalu muncul di bagian bawah layar. Alih-alih itu, model memprediksi perubahan pada kisi karakter. Setiap sesi dimulai dengan potret ukuran layar, isinya, dan posisi kursor. Penekanan tombol dikirim sebagai byte mentah seperti yang akan diterima terminal sungguhan, dan model merespons dengan baris yang perlu ditulis ulang serta lokasi kursor yang baru. Waktu juga menjadi masukan, sehingga token WAIT memungkinkan snake tetap bergerak tanpa penekanan tombol.
Untuk menghindari pembuatan ulang setiap baris saat layar digulir, penulis menambahkan operasi COPY yang memindahkan baris dari layar sebelumnya, sehingga menghemat ribuan token per penekanan tombol. Demo ini dirancang untuk peramban desktop dengan WebGPU dan keyboard fisik, dengan Chrome atau Edge sebagai pilihan yang disarankan.
Sumber: Hacker News · Diringkas oleh HeadlinesBriefing