Can you use autoregressive diffusion to generate market data?

In quantitative finance, generative models are less common than predictive ones, but a summer intern project explored using autoregressive diffusion to synthesize market data events. The research intern, Kavish, built a model to generate not just price predictions but full order book events—including timing, order type, and price—by treating market data as a sequential, multimodal signal. Market data exhibits both discrete and continuous characteristics: order book updates are discrete actions, but price and timing have high cardinality or are inherently continuous, with spiky distributions like 'pennying' and bursty arrivals around whole-number times.

Kavish modeled four years of US equities data, using an encoder-diffuser architecture with a causally masked transformer encoder to produce latent embeddings. During training, an event-kind head predicted trade vs. BBO update, while a diffusion head generated continuous features like price and elapsed time. The model found that standard DDPM diverged, but flow matching performed better.

Fully continuous diffusion failed to capture the jagged nature of real market data, and attempts to handle point masses via smoothing or discretization clarified the path forward for a viable generative model of market data.

في التمويل الكمي، النماذج التوليدية أقل شيوعًا من النماذج التنبؤية، لكن مشروع تدريبي صيفي استكشف استخدام التشتت التسلسلي لتوليد أحداث بيانات السوق. قام باحث التدريب، Kavish، ببناء نموذج لا يولد فقط توقعات الأسعار، بل أحداث كتب الأوامر الكاملة—بما في ذلك الوقت، نوع الأمر، والسعر—بمعاملة بيانات السوق كإشارة تسلسلي ومتعدد الوسائط. تتميز بيانات السوق بخصائص منقطعة ومستمرة: تحديثات كتب الأوامر هي إجراءات منقطعة، لكن السعر والوقت имеют كثافة عالية أو هي بشكل طبيعي مستمرة، مع توزيعات مدببة مثل 'pennying' ووصولات متجمعة حول الأوقات الكاملة. نموذج Kavish أربعة أعوام من بيانات الأسهم الأمريكية، باستخدام بنية مشفر-مشتت مع محول Encoder ماسك causally لإنتاج تضمينات Latent. أثناء التدريب، توقعت رأس نوع الحدث Trade vs. تحديث BBO، بينما Generated رأس الانتشار خصائص مستمرة مثل السعر والوقت المنقضي. اكتشف النموذج أن DDPM القياسي تباين، لكن matching التدفق Perform أفضل. فشلت الانتشار المستمر في capture الطبيعة الخشنة لبيانات السوق الحقيقية، وحاولت التعامل مع الكتل النقطية عبر التنعيم أو التقسيم، أوضحت الطريق أمام نموذج توليدي قابل للتطبيق لبيانات السوق.

পরিমাণী আর্থিক বিজ্ঞানে, জেনারেটিভ মডেলের তুলনায় প্রেডিক্টিভ মডেল কম মন্তব্য করা হয়, কিন্তু একটি গরমি ইন্টার্ন প্রকল্পে অটো-রিগ্রেসিভ ডিফিউজন ব্যবহার করে বাজার ডেটা ইভেন্টস সিন্থেসাইজ করার অন্বেষণ করা হয়েছে। গবেষণা ইন্টার্ন, Kavish, একটি মডেল বিল্ড করেছেন যা শুধু মূল্য পূর্বাভাস নয়, বরং পূর্ণ অর্ডার বুক ইভেন্ট—সময়, অর্ডার টাইপ, এবং মূল্য—জেনারেট করে, বাজার ডেটা একটি সিকোয়েন্সিয়াল, multimodal সিগন্যাল হিসেবে বিবেচনা করে। বাজার ডেটা উভয় discrete এবং continuous বৈশিষ্ট্য প্রদর্শন করে: অর্ডার বুক আপডেট discrete কার্যকলাপ, কিন্তু মূল্য এবং সময়ে উচ্চ cardinality বা inherent continuously আছে, 'pennying' মতো স্পাইকি বিতরণ এবং পূর্ণ সংখ্যার সময়ের আওয়ার বসতের সাথে। Kavish চার বছর ameryka equity ডেটা ব্যবহার করে, একটি encoder-diffuser架构ের সাথে a causal masked Transformer encoder ব্যবহার করে latent embeddings তৈরি করেছেন। প্রশিক্ষণের সময়, একটি event-kind head trade vs. BBO update পূর্বাভাস দিয়েছে, আর একটি diffusion head price এবং elapsed time যেমন continuous features জেনারেট করেছে। মডেল পেয়েছে যে standard DDPM diverged, কিন্তু flow matching perform better. Fully continuous diffusion real market data की jaggedness কapture করতে ব্যর্থ হলো, এবং point masses পরিচালনা করার জন্য smoothing বা discretizationের প্রচেষ্টা viable generative model of market data-এর জন্য পথ স্পষ্ট করেছে।

In der quantitativen Finanzwirtschaft sind generative Modelle seltener als prädiktive, aber ein Sommerpraktikumsprojekt untersuchte die Verwendung von autoregressive Diffusion zur Synthese von Marktdaten. Der Forschungspraktikant Kavish baute ein Modell, das nicht nur Preisvorhersagen generiert, sondern vollständige Order-Buch-Ereignisse—einschließlich Zeit, Orderart und Preis—indem es Marktdaten als sequenzielles, multimodales Signal behandelt. Marktdaten zeigen sowohl diskrete als auch kontinuierliche Eigenschaften: Order-Buch-Updates sind diskrete Aktionen, aber Preis und Zeit haben eine hohe Kardinalität oder sind inhärent kontinuierlich, mit spitzen Verteilungen wie 'pennying' und burstigen Ankünften um ganze Zahlen.

Kavish hat vier Jahre US-Aktiendaten modelliert, unter Verwendung eines encoder-diffuser-Architektur mit einem kausal maskierten Transformer-Encoder, um latente Embeddings zu erzeugen. Während des Trainings vorhergesagt ein Event-Kind-Head Trade vs. BBO-Update, während ein Diffusionskopf kontinuierliche Merkmale wie Preis und vergangene Zeit generierte. Das Modell fand heraus, dass standard DDPM divergierte, aber Flow Matching besser funktionierte.

Vollständig kontinuierliche Diffusion schaffte es nicht, die raue Natur echter Marktdaten zu erfassen, und Versuche, Punktmassen über Glättung oder Diskretisierung zu handhaben, klärten den Weg für ein valides generatives Modell von Marktdaten.

En finanzas cuantitativas, los modelos generativos son menos comunes que los predictivos, pero un proyecto de verano exploró el uso de difusión autoregresiva para sintetizar datos de mercado. El pasante de investigación, Kavish, construyó un modelo para generar no solo predicciones de precio, sino también eventos completos de libro de órdenes—incluyendo tiempo, tipo de orden y precio—tratando los datos de mercado como una señal secuencial y multimodal. Los datos de mercado exhiben tanto características discretas como continuas: las actualizaciones del libro de órdenes son acciones discretas, pero el precio y el tiempo tienen alta cardinalidad o son inherente Continuo, con distribuciones espicuas como 'pennying' y llegadas agrupadas alrededor de horas enteras.

Kavish modeló cuatro años de datos de acciones de EE. UU., usando una arquitectura codificador-difusor con un codificador Transformer con enmascaramiento causal para producir embeddings latentes. Durante el entrenamiento, una cabeza de tipo de evento predijo intercambio vs. actualización BBO, mientras que una cabeza de difusión generó características continuas como precio y tiempo transcurrido.

El modelo descubrió que la DDPM estándar divergió, pero el flujo matching funcionó mejor. La difusión continua falló al capturar la naturaleza dentada de los datos de mercado reales, y los intentos de manejar masas puntuales mediante suavizado o discretización aclararon el camino hacia adelante para un modelo generativo viable de datos de mercado.

En finance quantitative, les modèles génératifs sont moins courants que les modèles prédictifs, mais un projet d'été a exploré l'utilisation de la diffusion autogressionnelle pour synthétiser des données de marché. L'étudiant en recherche, Kavish, a construit un modèle pour générer non seulement des prédictions de prix, mais aussi des événements complets du carnet d'ordres—incluant le temps, le type d'ordre et le prix—en traitant les données de marché comme un signal séquentiel et multimodal. Les données de marché exhibent à la fois des caractéristiques discrètes et continues : les mises à jour du carnet d'ordres sont des actions discrètes, mais le prix et le temps ont une haute cardinalité ou sont intrinsèquement continus, avec des distributions pointues comme 'pennying' et des arrivées groupées autour des entiers.

Kavish a modélisé quatre ans de données d'actions américaines, utilisant une architecture encodeur-diffuseur avec un encodeur Transformer masqué causally pour produire des embeddings latents. Pendant l'entraînement, une tête de type d'événement a prédit échange vs. mise à jour BBO, tandis que la tête de diffusion a généré des caractéristiques continues comme le prix et le temps écoulé. Le modèle a constaté que le DDPM standard a divergé, mais le matching de flux a mieux fonctionné.

La diffusion continue a échoué à capturer la nature dentelée des données de marché réelles, et les tentatives de gérer les masses ponctuelles par lissage ou discrétisation ont clarifié la voie à suivre pour un modèle génératif viable de données de marché.

वित्तीय गणना में, जनरेटिव मॉडल्स की तुलना में predictive मॉडल्स कम आम हैं, लेकिन एक गर्मी के इंटर्न प्रोजेक्ट ने autoregressive diffusion का उपयोग करके बाजार डेटा घटनाओं को संश्लेषित करने का पता लगाया। शोध इंटर्न, Kavish, ने एक मॉडल बनाया जो सिर्फ कीमत की भविष्यवाणी नहीं करता, बल्कि पूरा ऑर्डर बुक इवेंट—समय, ऑर्डर प्रकार, और कीमत—जनरेट करता है, बाजार डेटा को एक sequential, multimodal संकेत के रूप में मानते हुए। बाजार डेटा दोनों discrete और continuous विशेषताओं को दर्शाता है: ऑर्डर बुक अपडेट discrete कार्रवाई हैं, लेकिन कीमत और समय में उच्च cardinality है या inherently continuous है, 'pennying' जैसे स्पाइकी वितरण और पूरे नंबर के समय के आसपास bursty arrivals के साथ। Kavish ने चार साल की अमेरिकी इक्विटी डेटा का उपयोग किया, एक encoder-diffuser वास्तुकला के साथ एक causal masked Transformer encoder का उपयोग करके latent embeddings उत्पन्न किया। प्रशिक्षण के दौरान, एक event-kind head ने trade vs. BBO update की भविष्यवाणी की, जबकि एक diffusion head ने price और elapsed time जैसे continuous features जनरेट किए। मॉडल ने पाया कि standard DDPM diverged, but flow matching perform better. Fully continuous diffusion real market data की jaggedness को capture करने में विफल रहा, और point masses को हैंडल करने के लिए smoothing या discretization के प्रयास ने viable generative model of market data के लिए path forward को clarified किया।

Dalam keuangan kuantitatif, model generatif lebih jarang daripada model prediktif, tetapi proyek magang musim panah meneliti penggunaan autoregressive Diffusion untuk sintesis data pasar. Riset magang, Kavish, membangun model untuk menghasilkan bukan hanya prediksi harga, tetapi juga lengkap order book event—termasuk waktu, jenis order, dan harga—menganggap data pasar sebagai sinyal sekuler dan multimodal. Data pasar menampilkan both diskrit dan kontinuif karakteristik: update order book adalah tindakan diskrit, tetapi harga dan waktu memiliki tinggi cardinality atau secara alami kontinuif, dengan distribusi yang runcing seperti 'pennying' dan kedatangan kumpul di sekitar bilangan bulat.

Kavish telah memodelkan empat tahun data saham AS, menggunakan arsitektur encoder-diffuser dengan encoder Transformer causally masked untuk menghasilkan latent embeddings. Selama pelatihan, event-kind head menebak trade vs. BBO update, sedangkan diffusion head menghasilkan fitur kontinuif seperti harga dan waktu yang telah berlalu. Model menemukan bahwa standard DDPM divergen, tetapi flow matching perform better.

Difusi kontinu penuh gagal menangkap jaggedness data pasar nyata, dan usaha menangani point mass melalui smoothing atau discretisasi mengarah ke jalan depana untuk model generatif yang layak data pasar.

定量金融では、生成モデルは予測モデルより少ないが、夏季インターンシッププロジェクトでは、自回帰拡散を使用して市場データイベントを合成することを探究した。研究インターンのKavishは、単に価格予測だけでなく、タイミング、注文種類、価格を含む完全なオーダーブックイベントを生成するモデルを構築しました。市場データは離散的かつ連続的な特徴を両方持っています：オーダーブックの更新は離散的アクションですが、価格と時間は高いカーディナリティを持つか、本質的に連続的です。「pennying」のような尖った分布と整数時間周囲のバースト到着を持っています。Kavishは4年間の米国株式データを使用し、因果マスクTransformerエンコーダを使用して潜在埋め込みを生成するエンコーダ-ディフューザーアーキテクチャを使用しました。訓練中、イベント種別ヘッドはtrade vs. BBO更新を予測し、ディフューザーヘッドは価格と経過時間などの連続特徴を生成しました。モデルは標準DDPMが発散することを発見しましたが、フロー マッチングの方がうまくいきました。完全連続の拡散はリアルな市場データのギザギザした性質を捉えられず、点質量を滑らかにするか離散化する試みは、実用的な市場データ生成モデルの道筋を明確にしました。

Em finanças quantitativas, modelos generativos são menos comuns que modelos preditivos, mas um projeto de verão explorou o uso de diffusion autoregressiva para sintetizar dados de mercado. O pesquisador de estágio Kavish construiu um modelo para gerar não apenas previsões de preço, mas eventos completos de book de ordens—incluindo tempo, tipo de ordem e preço—tratando dados de mercado como um sinal sequencial e multimodal. Os dados de mercado exibem tanto características discretas quanto contínuas: atualizações do book de ordens são ações discretas, mas preço e tempo têm alta cardinalidade ou são intrinsecamente contínuos, com distribuições pontudas como 'pennying' e chegadas agrupadas em torno de números inteiros.

Kavish modelou quatro anos de dados de ações dos EUA, usando uma arquitetura encoder-diffuser com um encoder Transformer com mascaramento causal para produzir embeddings latentes. Durante o treinamento, uma cabeça de tipo de evento previu trade vs. BBO update, enquanto uma cabeça de difusão gerou características contínuas como preço e tempo decorrido. O modelo descobriu que o DDPM padrão divergiu, mas o flux matching funcionou melhor.

Difusão totalmente contínua falhou em capturar a natureza dentada dos dados de mercado reais, e tentativas de lidar com massas pontuais usando suavização ou discretização aclararam o caminho adiante para um modelo generativo viável de dados de mercado.

В количественном финансировании генеративные модели встречаются реже, чем предсказательные, но летний стажерский проект исследовал использование авторегрессионного диффузиона для синтеза рыночных данных. Исследователь стажировки, Kavish, построил модель, которая не только предсказывает цены, но и генерирует полные события стакана ордеров—включая время, тип ордера и цену—обрабатывая рыночные данные как последовательный, мультимодальный сигнал. Рыночные данные обладают как дискретными, так и непрерывными характеристиками: обновления стакана ордеров — дискретные действия, но цена и время имеют высокую cardinality или являются непрерывными по природе, с пиковыми распределениями, как 'pennying' и приступами вокруг целых чисел. Kavish моделировал четыре года данных США по акциям, используя архитектуру encoder-diffuser с causally маскированным трансформер-энкодером для получения латент-эмбеддингов. Во время обучения голова события предсказывала trade vs. BBO update, а голова диффузии генерировала непрерывные характеристики, такие как цена и прошедшее время. Модель обнаружила, что стандартный DDPM diverged, но flow matching perform better. Полная непрерывная диффузия не смогла 포착нуть Jaggedness настоящих рыночных данных, и попытки обработать punt masses через сглаживание или дискретизациюclarified the path forward для viable generative model of market data.

在量化金融中，生成模型比预测模型少见，但一个暑期实习项目探索了使用自回归扩散来合成市场数据事件。该研究实习生Kavish构建了一个模型，不仅生成价格预测，还生成完整的订单簿事件——包括时间、订单类型和价格——将市场数据视为序列、多模态信号。市场数据同时具备离散和连续特征：订单簿更新是离散动作，但价格和时间具有高基数或本质上是连续的，具有‘铜线’等尖峰分布以及在整数时间周围的涌入模式。Kavish使用四年美国股票数据训练了一个编码器-扩散架构，使用因果掩码Transformer编码器生成潜在嵌入。在训练过程中，事件种类头预测交易与BBO更新，而扩散头生成价格和经历时间等连续特征。该模型发现，标准DDPM发散，但流匹配效果更好。完全连续的扩散未能捕捉真实市场数据的锯齿状特性，尝试通过平滑或离散化处理点质量阐明了可行生成模型的路径。