自回归模型

科技人工智能

连续扩散语言模型研究实现复兴

连续扩散语言模型(CDLM)在经历数年沉寂后正经历大规模学术复兴。这一技术范式从2021年早期的离散扩散模型发展而来,2022年开始探索连续方法,但在2023年后因ChatGPT时刻的冲击和训练效率问题(包括Plaid-1B模型效率低64倍)而基本消失,被离散扩散方法主导。