HeadlinesBriefing favicon HeadlinesBriefing.com

TimesFM-3: Model Fondasi Multivariat Zero-Shot

Google AI Blog •
×

TimesFM-3 memperkenalkan model fondasi zero-shot untuk peramalan deret waktu multivariat, mendukung multi-target, kovariat masa lalu dan dinamis, serta prediksi bersama deret koevolusi. Dengan 330 juta parameter pra-dilatih pada lebih dari 1 triliun titik waktu, model ini mengungguli model univariat sebelumnya di benchmark ritel, keuangan, kesehatan, dan domain lain. Transformer decoder-only menggunakan tokenisasi berbasis patch, normalisasi per-deret, dan arsitektur attention bergantian yang menggabungkan attention temporal kausal dengan attention variate penuh. Hal ini memungkinkan decode non-autoregresif single-pass, meningkatkan efisiensi dan akurasi sambil menangani skenario dunia nyata kompleks seperti meramal penjualan es krim dengan data bantu seperti promosi dan cuaca. TimesFM-3 menandai pergeseran dari peramalan univariat ketat ke multivariat native, memperluas aplikabilitas dan adopsi di lingkungan produksi.

Inovasi kunci meliputi dukungan multi-target (prediksi titik dan kuantil), inkorporasi kovariat masa lalu dan masa depan via strategi token lookahead, dan grid attention 2D yang menangkap dinamika temporal dan korelasi cross-series. Dengan memproses patch 32 langkah waktu dan menggunakan teknik masking patch berdekatan, model mencapai generalisasi zero-shot tanpa fine-tuning spesifik tugas, memberikan performa state-of-the-art pada benchmark peramalan utama.

Rilis ini dibangun pada keberhasilan Times FM dan Times FM-2.5, memperluas garis keturunan model fondasi deret waktu Google AI untuk mengatasi sifat multivariat alami masalah peramalan dunia nyata. Kemajuan ini diharapkan mempercepat adopsi di berbagai industri, dari ritel dan keuangan hingga manufaktur dan ilmu alam.

330 million, 1 trillion, Times FM, Times FM‑2.5, Google AI