离散扩散中加速顺序蒙特卡罗指导的价值知情调度修剪

arXiv:2610.20669v1 公告类型：新 摘要：奖励引导的离散扩散能够使测试时间与下游目标保持一致，但在每个去噪步骤中应用顺序蒙特卡罗 (SMC) 指导的计算成本很高。主动指导步骤需要额外的奖励评估，对于基于梯度的建议，还需要价值梯度计算。稀疏指导通过仅指导时间步的子集来降低这种成本，但常用的时间表是固定启发式的，其有效性在不同任务之间可能有很大差异。我们提出了 VISTA，一种无需训练的方法，可以在固定预算下自动选择引导时间步。 VISTA 将稀疏制导制定为理想全制导概率路径的近似值，并推导出 \(\ell_1\) 路径偏差的可估计上限。 VISTA 使用从少量全指导预热生成中收集的值统计数据，通过动态规划精确优化所得的经验替代项。预热代可以保留为模型输出，并且在计划选择之后，VISTA 具有与具有相同预算的其他稀疏计划相同的每代指导复杂度。在文本、生物序列和图像生成任务中，VISTA 发现了任务相关的调度，并在大多数测试设置中优于手工设计的稀疏调度，同时在多个任务指标上接近或超过了完全指导性能。例如，在有毒文本生成中，VISTA 获得了 0.99 的独特毒性比率，而全面指导的独特毒性比率为 1.00，同时将选择后每代延迟从 204.23 秒减少到 38.16 秒，加速了 5.35 美元\倍$。