أطلقت Mistral نموذج Timestral، وهي أولى عائلات نماذجها الأساسية للسلاسل الزمنية. يحتل النموذج الرائد، الذي يضم 209 مليون معامل، المركز الأول في معايير GIFT-Eval وTIME وfev-bench، متفوقًا على أحدث ما توصلت إليه التقنية السابقة مع استخدام ثلثي معاملاتها فقط. ينتج Timestral توقعات احتمالية متعددة المتغيرات، ويدعم المتغيرات المساعدة المعروفة من الماضي فقط والمتغيرات المساعدة المعروفة من المستقبل.
تأتي العائلة في أربعة أحجام، من 5 ملايين إلى 209 ملايين معامل، ويقع كل حجم على جبهة باريتو لدقة التنبؤ مقابل حجم النموذج. يتفوق نموذج 28 مليون معامل على Chronos-2، الذي يبلغ حجمه نحو أربعة أضعاف، في معياري GIFT-Eval وTIME. كما لا يحتاج Timestral إلى وحدة معالجة رسومية أثناء الاستدلال. فعلى خادم بمعالج مركزي قياسي، يستغرق التنبؤ لليوم التالي 10 ملّي ثانية مع نموذج 5 ملايين معامل، و140 ملّي ثانية مع نموذج 209 ملايين معامل.
تنتشر بيانات السلاسل الزمنية في بيئات المؤسسات، من القياسات عن بُعد للمستشعرات إلى مقاييس المراقبة، وتوجّه قرارات تخطيط السعة والطاقة وسلاسل الإمداد والمخاطر والصيانة. تُركَّب النماذج الكلاسيكية مثل ARIMA عادةً على سلسلة واحدة، بينما تُدرَّب نماذج التعلم العميق مثل PatchTST عادةً من الصفر على كل مجموعة بيانات. في المقابل، تتعلم النماذج الأساسية الأنماط من مجموعة كبيرة ومتنوعة، فتنتقل بين السلاسل وتتيح التنبؤ دون تدريب مسبق حتى حيث تكون البيانات شحيحة.
يجمع النموذج بين التدريب المسبق الاصطناعي، والانتباه المدرك للمتغيرات المساعدة، والتعلم ذي السياق الطويل، ويمكن ضبطه دقيقًا لمجالات محددة عبر Mistral Forge. وقد قُدِّمت النتائج إلى لوحتي المتصدرين GIFT-Eval وTIME.
المصدر: Hacker News · لخّصه HeadlinesBriefing