Dos familias de algoritmos de inteligencia artificial generativa dominan hoy en día: los modelos de difusión para datos continuos como imágenes, y los modelos autoregresivos para datos discretos como texto. Los modelos de difusión generan secuencias completas de una vez, comenzando por un borrador y refinando cada posición en paralelo en varias rondas. Este enfoque permite equilibrios entre velocidad y calidad, corrección automática de errores y contexto bidireccional. Los modelos autoregresivos generan un token a la vez, de izquierda a derecha, tomando tantos pasos como tokens haya. Los modelos de difusión lingüística, en cambio, comienzan con un borrador completo y reescriben toda la secuencia en cada paso. Aplicar difusión al lenguaje fue un problema abierto durante mucho tiempo, pero en 2024 los modelos de difusión se volvieron competitivos con los modelos autoregresivos en calidad. En 2026, los modelos de difusión lingüística son una realidad, con lanzamientos de los principales laboratorios industriales, incluyendo Mercury 2 (Inception Labs), Gemma Diffusion (Google) y Nemotron Diffusion (NVIDIA). El concepto central que subyace a los modelos de difusión es la eliminación de ruido: generar imágenes paso a paso, comenzando por ruido puro y eliminando una pequeña cantidad en cada paso hasta que emerge una imagen coherente. El proceso hacia adelante toma una imagen limpia de entrenamiento y produce imágenes cada vez más ruidosas. El proceso inverso aprende a invertir esta transformación, convirtiendo el ruido de nuevo en una imagen.

Los modelos de difusión aprenden a eliminar el ruido entrenando con ejemplos de ruido que se transforman gradualmente en imágenes. El proceso hacia adelante añade ruido a una imagen limpia paso a paso, mientras que el proceso inverso aprende a invertir esta transformación. Este enfoque de dos pasos hace que los modelos de difusión sean altamente efectivos para la generación.

Los modelos modernos de lenguaje por difusión se basan en estos principios fundamentales, adaptados para datos discretos como texto.

Entidades clave: Empresas: Inception Labs, Google, NVIDIA