قدم Jev من Type Safe نسخة جديدة من نماذج اللغة الكبيرة اجتاحت عالم الذكاء الاصطناعي. وفقًا لـ Vercel، "تم اعتماد Jev بشكل أسرع من أي نموذج آخر في تاريخ AI Gateway." لكن السحب تتشكل. من المؤكد أن OpenAI تولي اهتمامًا – وتقرر ما يجب فعله بعد ذلك. أتمنى كل التوفيق لـ Type Safe، ولكن إذا أوفت بوعودها حقًا، فأنا قلق من أن OpenAI في وضع جيد للمتابعة السريعة – ليس فقط لتكرار منتج Jev الرئيسي، بل أيضًا لدمج هذه القدرة في النماذج والوكلاء القادمين وتقديم سلوك جديد مفيد حقًا لا يستطيع Jev إعادة إنتاجه.

استخدمت OpenAI لسنوات نماذج اللغة الكبيرة الخاصة بها كمصنفات ضمنية؛ لكنها لم تدربها على مهام التصنيف العامة ولم تغلف التصنيف العام كمنتج مستقل. إذا تمكنت OpenAI من تكرار التدريب، فستتمكن من تكرار Jev في وقت قصير. علاوة على ذلك، فإن OpenAI في وضع يسمح لها باستخدام هذا المصنف الجديد داخل نماذجها ووكلائها الحاليين، مما قد يكون مفيدًا لاختيار النموذج السريع، والتفكير الأكثر كفاءة، وحواجز أمان أفضل، ونماذج أذكى وأسرع وأرخص بشكل عام.

العامل الرئيسي الذي يحدد كل هذا هو ما إذا كان لدى Type Safe خندق أم لا. أكبر خندق أراه هو في بيانات التدريب وعمليات التدريب لدى Type Safe. افتراضي الرئيسي هو أن Jev يستخدم شيئًا قريبًا جدًا من نموذج لغة كبير تقليدي. كدليل، يذكر Latent Space أن العديد من النسخ المبكرة تعتمد بالفعل على LLM. بالنظر إلى حالة ومجموعة من الأسئلة، يولد LLM الخاص بـ Jev رمزًا واحدًا أو، بشكل أكثر دقة، يولد التوزيع الاحتمالي لجميع الرموز التالية الممكنة. ثم يتم تحويل logprobs المرتبطة بكل رمز ممكن في تلك الخطوة إلى التنسيق الذي يحتاج Jev إلى إرجاعه. بالنسبة لسؤال noul، ينظر Jev إلى رمزين فقط، true و false، ويتجاهل كل شيء آخر، ويطبيع احتمالاتهما إلى احتمال واحد بأن الإجابة صحيحة. بالنسبة لسؤال الاختيار، يمكن تنبيه Jev بقائمة من الاحتمالات وينظر إلى الاحتمالات النسبية لتلك الرموز لبناء التوزيع الكامل، ويختار الأعلى كفائز. نمط الاختيار هو إلى حد كبير ما كتبته في مدونتي في عام 2025 في Supercharging LLM Classifications with Logprobs، وحتى بدون الضبط الدقيق كان يظهر وعدًا. لم أفكر بعمق في العنصر الأساسي score، لكنني أظن أنه نوع مختلف من نفس النمط. جزء من فرضية هذا المقال هو أن OpenAI قد تكون مستعدة للاستفادة بسرعة من هذه الفكرة، وهذا يصبح أكثر وضوحًا إذا فهمت كيف. استخدمت OpenAI نماذج اللغة الكبيرة ضمنيًا كمصنفات متخصصة منذ إدخال استدعاء الأدوات على الأقل. في أوائل عام 2024 كتبت Tool Invocation – Demonstrating the Marvel of GPT's Flexibility، حيث استدرجت نموذج GPT للكشف عن كيفية قراره باستدعاء أداة. فيما يلي كيف تبدو جلسة محادثة داخليًا. هنا رسالة مستخدم، ثم رد مساعد بدون استدعاء أداة يليه رسالة مستخدم مع استدعاء أداة: لقد رمزت النص بالألوان للإشارة إلى حدود الرموز. إذا لم تكن قد رأيت Chat ML من قبل، فهي لغة الترميز الداخلية التي قدمتها OpenAI لتنظيم مطالبات محادثة المستخدم-الوكيل. و هي رموز محجوزة تحدد الرسائل، وأول رمز بعد يحدد المتحدث، إما مستخدم أو مساعد. مباشرة بعد assistant، فإن ve...