أطلقت ThinkingCap نموذجها الخامس الموفر للرموز، المبني على gemma-4-26B-A4B-it من Google. كان الهدف تقليل مقدار التفكير الذي يقوم به النموذج قبل الإجابة مع عدم تغيير أي شيء آخر، بما في ذلك معرفته واستدلاله وجودة إجاباته واتباعه للتعليمات وسلوكه المتعلق بالسلامة. عبر اثني عشر معيارًا، انخفضت رموز التفكير بنسبة 38.9% في المتوسط، مع تخفيضات وصلت إلى 69.1% في اختبارات فردية.
كانت تكلفة الدقة ضئيلة. فعند حساب المتوسط عبر جميع المعايير الاثني عشر، تغيرت الدقة بمقدار -0.15pp فقط، وهو ما تشير الفرقة إلى أنه أصغر من التباين بين التشغيلات المختلفة في معظم المجموعة. وكسب اتباع التعليمات والمهام الوكيلية 0.65pp، وكسبت الرياضيات 0.39pp، فيما بقيت البرمجة مستقرة تقريبًا. وخسرت المعرفة والاستدلال 0.51pp، وخسرت المهام ذات السياق الطويل والمتعددة الوسائط 0.92pp. وانخفض التكرار الحلقي، أي أن يكرر النموذج نفسه، من 3.6% من ردود النموذج الأصلي إلى 0.8%.
كانت التخفيضات الأكبر في المهام ذات السياق الطويل والمتعددة الوسائط بنسبة 54.4%، تليها المعرفة والاستدلال بنسبة 44.4%، ثم الرياضيات بنسبة 36.1% والبرمجة بنسبة 27.6%. وشهد اتباع التعليمات والمهام الوكيلية أصغر تغيير، بنسبة 17.2%.
النموذج بديل مباشر ويستخدم إعدادات أخذ العينات نفسها ومنظومة التقديم نفسها. وبحسب ما ورد، فإن النسخة PRO تخفض رموز التفكير بنسبة تصل إلى 87.6%، أو 62% في المتوسط، للمؤسسات التي تسعى إلى خفض تكاليف الاستدلال على نطاق واسع.
المصدر: Hacker News · لخّصه HeadlinesBriefing