近年来，语言领域的持续扩散模型活动频繁，表明这种方法在沉寂多年后正在重新兴起。完全离散扩散方法曾在很大程度上取代了早期的持续扩散尝试，但潮流正在发生变化。现代语言模型主要是自回归的，通过教师强制进行并行训练，逐个生成序列，这已被证明具有极高的可扩展性。然而，自回归并不是唯一的迭代生成方法——研究人员通过逆转一个逐渐破坏信息的破坏过程来探索语言生成中的扩散。早期的离散扩散模型出现在2021年，用离散方法取代了持续破坏，以处理分类数据。2022年，针对离散数据的持续扩散方法开始流行，如Diffusion-LM，它用连续嵌入向量表示离散类别，使其易于受到高斯噪声破坏，从而无需修改核心算法即可应用成熟的高斯扩散机制。