归一化轨迹模型

扩散模型的高效生成有一个隐藏矛盾:它把采样拆成大量微小的高斯去噪步骤,理论上每一步都简单可控;可一旦想少跑几步,步与步之间的变化变大,原本的“高斯近似”就不再成立。现有少步生成方法大多靠蒸馏、一致性训练或对抗目标来硬压步数,代价是放弃似然框架,模型不再保有精确似然评估的能力。

来自宾夕法尼亚大学、UIUC 和 Apple 的研究者在论文《Normalizing Trajectory Models》中提出 Normalizing Trajectory Models(NTM),用条件归一化流替代每个反向步骤的高斯假设。归一化流是一类可逆生成模型,保持精确似然计算的能力,因此整个少步轨迹仍然是一个定义良好的概率模型。架构上的关键是两步组合:每个步骤内部用浅层可逆块,跨整个生成轨迹再并联一个深层预测器,最终构成端到端网络。训练上既可以从零开始,也能加载预训练的 flow-matching 模型做初始化。

精确的轨迹似然还带来一个附加能力:自蒸馏。训练一个轻量去噪器,去适配模型自身诱导出的 score function,相当于模型拿自己的概率结构当老师,学完后只需 四步采样 就能产出高质量图片。在文生图基准上,NTM 以四步采样匹配或超越强图像生成基线,同时保留了生成轨迹上的精确似然。这一点让它和蒸馏、一致性训练、对抗式少步方法形成本质区别:别的方法用丢掉精确似然换速度,NTM 则想同时保住两者。

Normalizing Trajectory Models

查看原文