Mistral 发布了 Timestral，这是其首个时间序列基础模型系列。旗舰模型拥有 2.09 亿（209M）参数，在 GIFT-Eval、TIME 和 fev-bench 基准测试中排名第一，超越了此前的最先进水平，而其参数量仅为后者的三分之二。Timestral 可生成概率性的多变量预测，并同时支持仅基于历史数据的协变量和已知未来协变量。
该系列包含四种规格，参数量从 500 万（5M）到 2.09 亿（209M）不等，每种规格都处于预测精度与模型规模之间的帕累托前沿。在 GIFT-Eval 和 TIME 基准上，2800 万（28M）参数模型的表现优于规模大约四倍的 Chronos-2。此外，Timestral 在推理时无需 GPU。在标准服务器 CPU 上，使用 500 万参数模型预测未来一天仅需 10 毫秒，使用 2.09 亿参数模型则需 140 毫秒。
时间序列数据在企业环境中十分常见，从传感器遥测到可观测性指标，都为产能规划、能源、供应链、风险管理和设备维护等决策提供依据。ARIMA 等经典模型通常只针对单一序列拟合，而 PatchTST 等深度学习模型则通常针对每个数据集从头训练。基础模型则不同，它从庞大且多样的语料中学习规律，这些规律可以跨序列迁移，即使在数据稀缺的情况下也能实现零样本预测。
该模型融合了合成数据预训练、感知协变量的注意力机制以及长上下文学习，并可通过 Mistral Forge 针对特定领域进行微调。相关结果已提交至 GIFT-Eval 和 TIME 排行榜。
来源: Hacker News · 由HeadlinesBriefing整理摘要