একজন ডেভেলপার একটি 360M প্যারামিটারের ভাষা মডেলকে টার্মিনালের মতো আচরণ করার জন্য ফাইন-টিউন করেছেন। এর পেছনে কোনো শেল বা ফাইল সিস্টেম নেই। বরং প্রতিটি কী-প্রেস মডেলে পাঠানো হয়, এবং মডেল অনুমান করে স্ক্রিন কীভাবে বদলাবে। লেখকের মতে, এটি ফাইল তৈরি করতে পারে, vim ও tmux চালাতে পারে, snake খেলতে পারে এবং সাধারণত কয়েকটি কমান্ড আগে যা টাইপ করা হয়েছিল তা মনে রাখতে পারে। সবচেয়ে বড় উন্নতি এসেছে মডেলকে নিজের ভুল সংশোধন করতে শেখানো এবং স্ক্রিনের সারিগুলো সমান্তরালে ডিকোড করার মাধ্যমে। ডেমোটি ব্রাউজারে চলে এবং এর আকার প্রায় 208 MB। ব্যবহারকারীরা "pythoon" টাইপ করে দেখতে পারেন যে এটি আসল শেল নয়।
প্রকল্পটি Genie 3 থেকে অনুপ্রাণিত, যা এমন এক ভবিষ্যতের ইঙ্গিত দিয়েছিল যেখানে অ্যাপ্লিকেশন কোড করা হয় না, বরং শেখানো হয়। লেখক এই ধারণাকে একটি গেম জগত থেকে টার্মিনাল পর্যন্ত ছোট করেছেন। টার্মিনাল পিক্সেলের নয়, অক্ষরের একটি গ্রিড, এবং আসল শেল চালিয়ে প্রশিক্ষণের ডেটা তৈরি করা যায়। মডেলটি Qwen2.5-Coder-0.5B-এর উপর ভিত্তি করে তৈরি এবং Docker-এর ভেতরে চলা আসল প্রোগ্রামের রেকর্ড করা টার্মিনাল সেশনে ফাইন-টিউন করা হয়েছে।
সাধারণ ভাষা মডেল একবারে একটি করে টোকেন যুক্ত করে, যা টার্মিনালের জন্য উপযুক্ত নয়, কারণ সেখানে একটি কী-প্রেস নিজে থেকেই কাজ করতে পারে এবং আউটপুট সবসময় স্ক্রিনের নিচে যায় না। তাই মডেল অক্ষরের গ্রিডে পরিবর্তনের পূর্বাভাস দেয়। প্রতিটি সেশন শুরু হয় স্ক্রিনের আকার, বিষয়বস্তু এবং কার্সারের অবস্থানের একটি স্ন্যাপশট দিয়ে। কী-প্রেসগুলো আসল টার্মিনালের মতো কাঁচা বাইট হিসেবে পাঠানো হয়, এবং মডেল পুনরায় লেখার প্রয়োজনীয় সারি ও নতুন কার্সার অবস্থান ফেরত দেয়। সময়ও একটি ইনপুট, তাই একটি WAIT টোকেন snake-কে কী চাপ ছাড়াই চলতে দেয়।
স্ক্রিন স্ক্রল করার সময় প্রতিটি সারি আবার তৈরি করা এড়াতে লেখক একটি COPY অপারেশন যুক্ত করেছেন, যা আগের স্ক্রিনের সারি সরিয়ে দেয় এবং প্রতি কী-প্রেসে হাজার হাজার টোকেন বাঁচায়। ডেমোটি WebGPU-সমর্থিত ডেস্কটপ ব্রাউজার ও ভৌত কীবোর্ডের জন্য তৈরি, এবং Chrome বা Edge ব্যবহারের পরামর্শ দেওয়া হয়েছে।
উৎস: Hacker News · সারাংশ: HeadlinesBriefing