इस लेख में समझाया गया है कि कैसे बड़े भाषा मॉडल (LLM) का उपयोग करके निर्णय मॉडल बनाया जाए, जिसके आउटपुट को A से E जैसे निश्चित विकल्पों के सेट तक सीमित करके। मानक भाषा मॉडलों के विपरीत जो टोकन को क्रमिक रूप से उत्पन्न करते हैं, निर्णय मॉडल जैसे Jev निश्चित विकल्प मानते हैं और एक ही पास में भविष्यवाणी करते हैं। लेखक Qwen/Qwen3-1.7B मॉडल का उपयोग करके इस तकनीक का प्रदर्शन करते हैं, सीमित डिकोडिंग लागू करके आउटपुट को पूर्वनिर्धारित टोकन तक सीमित करते हैं। सभी अन्य शब्दावली आइटम्स को मास्क करके, मॉडल केवल वैध विकल्प उत्सर्जित कर सकता है, और उच्चतम संभाव्यता टोकन को उत्तर के रूप में चुना जाता है।
इस दृष्टिकोण को CommonsenseQA डेटासेट पर परीक्षण किया गया, बिना फाइन-ट्यूनिंग के 59.38% सटीकता हासिल की। तेज फाइन-ट्यूनिंग के बाद, सटीकता 62.41% तक बढ़ गई। लेख में एक सीमा भी उजागर की गई है: आउटपुट टोकन संभाव्यताएँ आवश्यक रूप से सही होने के वास्तविक विश्वास को नहीं दर्शाती हैं, विशेष रूप से अस्पष्ट प्रश्नों पर। लेखक Hugging Face Transformers और PyTorch का उपयोग करके पूर्ण Python कार्यान्वयन प्रदान करते हैं, जो दिखाते हैं कि कैसे प्रॉम्प्ट प्रारूपित करें, मॉडल लोड करें, और प्रत्येक विकल्प की संभावनाओं की गणना करें। यह विधि LLMs को बहुविकल्पीय reasoning कार्यों के लिए पुन: उपयोग करने का एक हल्का तरीका प्रदान करती है।
मुख्य इकाइयाँ: कंपनियाँ: Hugging Face, Qwen
अक्सर पूछे जाने वाले प्रश्न: सीमित डिकोडिंग LLM निर्णय-निर्माण में कैसे सुधार लाता है?
सीमित डिकोडिंग मॉडल के आउटपुट को पूर्वनिर्धारित टोकन के सेट (जैसे A–E) तक सीमित करके एकल-पास भविष्यवाणियों को सक्षम बनाता है। यह Jev जैसे निर्णय मॉडल की नकल करता है और पुनरावृत्ति टोकन उत्पादन की आवश्यकता को समाप्त करके गणना ओवरहेड को कम करता है।
स्रोत: Hacker News · HeadlinesBriefing द्वारा सारांशित