HeadlinesBriefing favicon HeadlinesBriefing.com

रिवर्स-इंजीनियर Jev-जैसा मॉडल: विकल्प स्कोरिंग

Hacker News •
×

एक छोटा मॉडल प्रशिक्षित करें जो टेक्स्ट विकल्पों की बदलती सूची में से चुनता है। एक Jev-जैसा मॉडल टेक्स्ट का एक टुकड़ा और N टेक्स्ट विकल्पों की एक सूची लेता है। यह शब्द-दर-शब्द उत्तर लिखने के बजाय एक ही पास में प्रत्येक विकल्प के लिए एक संभावना लौटाता है। Jev इस कार्य के लिए Type Safe का व्यावसायिक मॉडल है, लेकिन Type Safe ने अपना डिज़ाइन प्रकाशित नहीं किया है। यह रिपॉजिटरी समान इनपुट और आउटपुट आकार वाला एक स्वतंत्र स्टार्टर मॉडल है।

वही विकल्प-ध्यान हेड छवि पैच से नियंत्रक बटन को स्कोर कर सकता है। एक दस-सेकंड की फिल्म दो चयनित पाँच-सेकंड विंडो को जोड़ती है: सात Doom बटनों पर लाइव deadly_corridor लड़ाई, फिर पाँच कुंजियों के साथ चलने और चालें खेलने वाला एक शतरंज नियंत्रक। Doom विंडो दिए गए संयुक्त चेकपॉइंट से आई, जिसने अपने दस रिकॉर्ड किए गए एपिसोड में औसतन 0.60 किल और -97.50 इनाम प्राप्त किया। शतरंज विंडो मजबूत केवल-शतरंज चेकपॉइंट से आई, जिसने एक यादृच्छिक चालक के विरुद्ध 50 नमूना खेलों में 4 जीत, 46 ड्रॉ और 0 हार स्कोर किया, लेकिन Stockfish स्तर 0 के विरुद्ध 0 जीत, 2 ड्रॉ और 48 हार। विंडो गतिविधि के लिए चुनी गई थीं और ये सामान्य-खेल या क्षमता के दावे नहीं हैं।

गेम एक्स्ट्रा इंस्टॉल करें और जारी किए गए संयुक्त चेकपॉइंट से एक नया 640 बाय 480 Doom ट्रेस रिकॉर्ड करें: uv pip install -e '.[games]' python examples/doom/play.py examples/checkpoints/joint-imitation.pt --episodes 10 --game-seconds 35.3 --device cpu --capture-resolution 640x480 --output runs/doom.mp4 --trace runs/doom-trace.json ट्रेस को उसी दृश्य लेआउट में रेंडर करें। यह एक मूक फिल्म लिखता है क्योंकि लेखक के स्वामित्व वाला साउंडट्रैक स्रोत रिपॉजिटरी का हिस्सा नहीं है। (cd examples/film && npm install && npx playwright install chromium) examples/film/make-film.sh runs/doom-trace.json runs/doom-film.mp4 10

रिलीज़ में Doom उदाहरण, शतरंज उदाहरण, एकल-गेम चेकपॉइंट और साझा 12-विकल्प चेकपॉइंट शामिल हैं। दोनों गेम jevlike.vision से विज़ुअल स्कोरर आयात करते हैं; किसी भी उदाहरण में दूसरी मॉडल प्रति नहीं है। आर्किटेक्चर प्रत्येक विकल्प एक क्वेरी वेक्टर बन जाता है, जो उसके टेक्स्ट का प्रतिनिधित्व करने वाली संख्याओं की एक छोटी सूची है। क्वेरी संदर्भ टोकन को ध्यान भार सौंपती है। वे भार उस विकल्प के लिए एक संदर्भ वेक्टर बनाते हैं। एक साझा डॉट उत्पाद प्रत्येक विकल्प और संदर्भ जोड़ी को एक स्कोर में बदल देता है। विकल्पों के बीच एक softmax चलता है। डिफ़ॉल्ट एनकोडर शून्य से बाइट एम्बेडिंग सीखता है। वैकल्पिक Hugging Face पथ एक फ्रोज़न प्रीट्रेन्ड एनकोडर का उपयोग करता है। डेटा प्रारूप प्रति पंक्ति एक JSON ऑब्जेक्ट का उपयोग करें: {"context":"The customer needs a refund.","options":["refund","sales","technical support"],"label":0} label सही विकल्प का शून्य-आधारित सूचकांक है। प्रत्येक पंक्ति में विकल्पों की भिन्न संख्या हो सकती है, न्यूनतम दो। क्विकस्टार्ट रिपॉजिटरी रूट से ये कमांड चलाएँ: uv venv source .venv/bin/activate uv pip install -e '.[dev]' jevlike-data synthetic --output data/synthetic jevlike-train data/synthetic/train.jsonl --validation data/synthetic/validation.jsonl --output runs/synthetic.pt jevlike-eval runs/synthetic.pt data/synthetic/test.jsonl jevlike-predict runs/synthetic.pt --context "Choose the exact badge amber badger. Badge: amber badger." --option "azure crane" --option "amber badger" --option "gold heron" मूल्यांकन top-1 सटीकता, top-3 सटीकता, अपेक्षित कैलिब्रेशन त्रुटि और एक फेरबदल-संदर्भ नियंत्रण प्रिंट करता है। अपना डेटा उपयोग करें: ऊपर दिए गए प्रारूप में ट्रेन, वैलिडेशन और टेस्ट JSONL फ़ाइलें निर्यात करें।

मुख्य इकाइयाँ: कंपनियाँ: Type Safe