HeadlinesBriefing favicon HeadlinesBriefing.com

نموذج شبيه بـ Jev بهندسة عكسية: تقييم الخيارات

Hacker News •
×

درّب نموذجًا صغيرًا يختار من بين قائمة متغيرة من الخيارات النصية. يأخذ النموذج الشبيه بـ Jev قطعة نص وقائمة من N خيارات نصية. يعيد احتمالًا واحدًا لكل خيار في تمريرة واحدة بدلًا من كتابة إجابة كلمة بكلمة. Jev هو النموذج التجاري من Type Safe لهذه المهمة، لكن Type Safe لم تنشر تصميمه. هذا المستودع هو نموذج بداية مستقل بنفس شكل الإدخال والإخراج.

يمكن لرأس انتباه الخيارات نفسه تقييم أزرار وحدة التحكم من رقع الصور. فيلم مدته عشر ثوانٍ يضم نافذتين مختارتين مدتهما خمس ثوانٍ: قتال deadly_corridor المباشر القاتل على أزرار Doom السبعة، ثم وحدة تحكم شطرنج تمشي إلى النقلات وتلعبها بخمس مفاتيح. جاءت نافذة Doom من نقطة التفتيش المشتركة المقدمة، والتي حققت في المتوسط 0.60 قتيلًا و-97.50 مكافأة عبر حلقاتها العشر المسجلة. جاءت نافذة الشطرنج من نقطة التفتيش الأقوى الخاصة بالشطرنج فقط، والتي سجلت 4 انتصارات و46 تعادلًا و0 خسائر في 50 لعبة معاينة ضد لاعب عشوائي، لكن 0 انتصارات و2 تعادل و48 خسارة ضد Stockfish المستوى 0. اختيرت النوافذ من أجل النشاط وليست ادعاءات لعب نموذجي أو كفاءة.

ثبّت إضافات الألعاب وسجّل أثر Doom جديدًا بدقة 640 في 480 من نقطة التفتيش المشتركة الصادرة: uv pip install -e '.[games]' python examples/doom/play.py examples/checkpoints/joint-imitation.pt --episodes 10 --game-seconds 35.3 --device cpu --capture-resolution 640x480 --output runs/doom.mp4 --trace runs/doom-trace.json اعرض الأثر بنفس التخطيط البصري. يكتب هذا فيلمًا صامتًا لأن مصدر الموسيقى التصويرية المملوك للمؤلف ليس جزءًا من المستودع. (cd examples/film && npm install && npx playwright install chromium) examples/film/make-film.sh runs/doom-trace.json runs/doom-film.mp4 10

يتضمن الإصدار مثال Doom ومثال الشطرنج ونقاط تفتيش اللعبة الواحدة ونقطة التفتيش المشتركة ذات 12 خيارًا. يستورد كلتا اللعبتين المقيّم البصري من jevlike.vision؛ لا توجد نسخة نموذج ثانية في أي من المثالين. البنية يصبح كل خيار متجه استعلام، وهو قائمة قصيرة من الأرقام تمثل نصه. يخصص الاستعلام أوزان انتباه لرموز السياق. تصنع تلك الأوزان متجه سياق واحد لذلك الخيار. يحوّل ضرب نقطي مشترك كل زوج من الخيار والسياق إلى درجة واحدة. يعمل softmax عبر الخيارات. يتعلم المشفر الافتراضي تضمينات البايت من الصفر. يستخدم مسار Hugging Face الاختياري مشفرًا مدربًا مسبقًا ومجمدًا. تنسيق البيانات استخدم كائن JSON واحدًا لكل سطر: {"context":"The customer needs a refund.","options":["refund","sales","technical support"],"label":0} label هو الفهرس الصفري للخيار الصحيح. قد يحتوي كل صف على عدد مختلف من الخيارات، بحد أدنى اثنين. البدء السريع شغّل هذه الأوامر من جذر المستودع: uv venv source .venv/bin/activate uv pip install -e '.[dev]' jevlike-data synthetic --output data/synthetic jevlike-train data/synthetic/train.jsonl --validation data/synthetic/validation.jsonl --output runs/synthetic.pt jevlike-eval runs/synthetic.pt data/synthetic/test.jsonl jevlike-predict runs/synthetic.pt --context "Choose the exact badge amber badger. Badge: amber badger." --option "azure crane" --option "amber badger" --option "gold heron" يطبع التقييم دقة top-1 ودقة top-3 وخطأ المعايرة المتوقع وضابط سياق مبعثر. استخدم بياناتك: صدّر ملفات JSONL للتدريب والتحقق والاختبار بالتنسيق أعلاه.

الكيانات الرئيسية: الشركات: Type Safe