HeadlinesBriefing favicon HeadlinesBriefing.com

TimesFM-3 : Modèle fondation multivarié zero-shot

Google AI Blog •
×

TimesFM-3 introduit un modèle fondation zero-shot pour la prévision de séries temporelles multivariées, prenant en charge plusieurs cibles, covariables passées et dynamiques, et la prédiction conjointe de séries coévolutives. Avec 330 millions de paramètres pré-entraînés sur plus de 1 trillion de points temporels, il surpasse les modèles univariés antérieurs sur les benchmarks du retail, de la finance, de la santé et d'autres domaines. Le transformeur décodeur uniquement utilise une tokenisation par patches, une normalisation par série et une architecture d'attention alternée combinant attention temporelle causale et attention complète des variables. Cela permet un décodage non-autoregressif en un seul passage, améliorant l'efficacité et la précision tout en gérant des scénarios réels complexes comme la prévision des ventes de glaces avec données auxiliaires telles que promotions et météo. TimesFM-3 marque un passage de la prévision strictement univariée à la prévision multivariée native, élargissant l'applicabilité et l'adoption en production.

Les innovations clés incluent le support de multiples cibles (prévisions ponctuelles et quantiles), l'incorporation de covariables passées et futures via une stratégie de token lookahead, et une grille d'attention 2D capturant à la fois la dynamique temporelle et les corrélations inter-séries. En traitant des patches de 32 pas de temps et en utilisant une technique de masquage de patches contigus, le modèle atteint une généralisation zero-shot sans fine-tuning spécifique à la tâche, offrant une performance state-of-the-art sur les principaux benchmarks de prévision.

Cette version s'appuie sur le succès de Times FM et Times FM-2.5, étendant la lignée des modèles fondation de séries temporelles de Google AI pour adresser la nature intrinsèquement multivariée des problèmes de prévision réels. Cette avancée devrait accélérer l'adoption dans divers secteurs, du retail et la finance à la fabrication et aux sciences naturelles.

330 million, 1 trillion, Times FM, Times FM‑2.5, Google AI