通过最小信噪比加权策略实现有效的扩散训练。

去噪扩散模型一直是图像生成的主流方法,然而训练这些模型往往受到收敛速度缓慢的困扰。本文发现,收敛速度缓慢部分是因为不同时间步之间存在冲突的优化方向。为了解决这个问题,我们将扩散训练视为多任务学习问题,并引入了一种简单而有效的方法,称为Min-SNR-$\gamma$。该方法基于限制信噪比调整时间步长的损失权重,有效地平衡了时间步长之间的冲突。我们的结果表明,在收敛速度方面有了显著的改进,比以前的加权策略快3.4倍。它也更有效,采用比先前最先进的架构更小的架构,在ImageNet $256\times256$基准测试中取得了新的FID分数纪录,达到了2.06。

论文链接:http://arxiv.org/pdf/2303.09556v1

更多计算机论文:http://cspaper.cn/

Related posts