Type Safe के Jev ने बड़े भाषा मॉडलों पर एक नया दृष्टिकोण पेश किया है जिसने AI की दुनिया को तूफान की तरह हिला दिया है। Vercel के अनुसार, "Jev को AI Gateway के इतिहास में किसी भी अन्य मॉडल की तुलना में तेजी से अपनाया गया।" लेकिन बादल छा रहे हैं। OpenAI निस्संदेह ध्यान दे रहा है – और तय कर रहा है कि आगे क्या करना है। मैं Type Safe के लिए सर्वश्रेष्ठ की कामना करता हूं, लेकिन अगर वे वास्तव में अपने वादों पर खरे उतरते हैं, तो मुझे चिंता है कि OpenAI तेजी से अनुसरण करने के लिए अच्छी स्थिति में है – न केवल Jev के प्रमुख उत्पाद की नकल करने के लिए, बल्कि उस क्षमता को आगामी मॉडलों और एजेंटों में शामिल करने और कुछ वास्तव में उपयोगी नया व्यवहार प्रदान करने के लिए जिसे Jev दोहराने की स्थिति में नहीं है।

OpenAI ने वर्षों से अपने LLM को अंतर्निहित क्लासिफायर के रूप में उपयोग किया है; उन्होंने बस उन्हें सामान्य वर्गीकरण कार्यों के लिए प्रशिक्षित नहीं किया है और उन्होंने सामान्य वर्गीकरण को एक स्टैंड-अलोन उत्पाद के रूप में पैकेज नहीं किया है। यदि OpenAI प्रशिक्षण को दोहरा सकता है, तो वे थोड़े समय में Jev को दोहरा सकेंगे। इसके अलावा, OpenAI अपने मौजूदा मॉडलों और एजेंटों के भीतर इस नए क्लासिफायर का उपयोग करने की स्थिति में है जो त्वरित मॉडल चयन, अधिक कुशल सोच, बेहतर सुरक्षा गार्डरेल और आम तौर पर स्मार्ट, तेज और सस्ते मॉडलों के लिए उपयोगी हो सकता है।

यह सब तय करने वाला मुख्य कारक यह है कि Type Safe के पास मोट है या नहीं। मैं जो सबसे बड़ा मोट देखता हूं वह Type Safe के प्रशिक्षण डेटा और प्रशिक्षण प्रक्रियाओं में है। मेरी मुख्य धारणा यह है कि Jev पारंपरिक बड़े भाषा मॉडल के काफी करीब कुछ उपयोग कर रहा है। सबूत के तौर पर, Latent Space रिपोर्ट करता है कि कई शुरुआती क्लोन वास्तव में LLM-आधारित हैं। एक स्थिति और प्रश्नों के एक सेट को देखते हुए, Jev का LLM एक एकल टोकन उत्पन्न करता है या, अधिक सटीक रूप से, सभी संभावित अगले टोकन पर संभाव्यता वितरण उत्पन्न करता है। उस एक चरण में प्रत्येक संभावित टोकन से जुड़े logprobs को तब Jev को जो भी प्रारूप वापस करने की आवश्यकता होती है, उसमें बदल दिया जाता है। एक noul प्रश्न के लिए, Jev केवल दो टोकन देखता है, true और false, बाकी सब कुछ अनदेखा करता है, और उनकी संभावनाओं को एक एकल संभाव्यता में सामान्यीकृत करता है कि उत्तर true है। एक विकल्प प्रश्न के लिए, Jev को संभावनाओं की एक सूची के साथ संकेत दिया जा सकता है और यह पूर्ण वितरण बनाने के लिए उन टोकन की सापेक्ष संभावनाओं को देखता है, विजेता के रूप में उच्चतम का चयन करता है। विकल्प पैटर्न बहुत हद तक वही है जो मैंने 2025 में Supercharging LLM Classifications with Logprobs में ब्लॉग किया था, और बिना फाइन-ट्यूनिंग के भी यह पहले से ही आशाजनक दिखा रहा था। मैंने score प्रिमिटिव के बारे में गहराई से नहीं सोचा है, लेकिन मुझे संदेह है कि यह उसी पैटर्न का एक प्रकार है। इस पोस्ट का आधार यह है कि OpenAI इस विचार का तेजी से लाभ उठाने के लिए तैयार हो सकता है, और यह और स्पष्ट हो जाता है यदि आप समझते हैं कि कैसे। OpenAI कम से कम टूल कॉलिंग की शुरूआत के बाद से बड़े भाषा मॉडलों को अंतर्निहित रूप से विशेष क्लासिफायर के रूप में उपयोग कर रहा है। 2024 की शुरुआत में मैंने Tool Invocation – Demonstrating the Marvel of GPT's Flexibility लिखा, जहां मैंने एक GPT मॉडल को यह बताने के लिए राजी किया कि यह टूल को कॉल करने का निर्णय कैसे लेता है। निम्नलिखित दिखाता है कि एक चैट सत्र आंतरिक रूप से कैसा दिखता है। यहां एक उपयोगकर्ता संदेश है, फिर बिना टूल कॉल के एक सहायक प्रतिक्रिया के बाद टूल कॉल के साथ एक उपयोगकर्ता संदेश: मैंने टोकन सीमाओं को इंगित करने के लिए पाठ को रंग-कोडित किया है। यदि आपने पहले Chat ML नहीं देखा है, तो यह आंतरिक मार्कअप भाषा है जिसे OpenAI ने उपयोगकर्ता-एजेंट वार्तालाप संकेतों को व्यवस्थित करने के लिए पेश किया था। और आरक्षित टोकन हैं जो संदेशों को सीमांकित करते हैं, और के बाद पहला टोकन वक्ता की पहचान करता है, या तो उपयोगकर्ता या सहायक। assistant के ठीक बाद, ve...