基于能量的波尔兹曼分布高效采样扩散发生器

Yan Wang^a, Ling Guo^b, Hao Wu^*c, Tao Zhou^d
Yan Wang^a, Ling Guo^b, Hao Wu^*c, Tao Zhou^d

Abstract 摘要

波尔兹曼分布采样，尤其是与高维和复杂能量函数相关的采样，在许多领域都是一项重大挑战。在这项工作中，我们提出了基于能量的扩散发生器（EDG），这是一种整合了变异自动编码器和扩散模型思想的新方法。EDG 利用解码器将潜变量从简单分布转换为近似目标波尔兹曼分布的样本，而基于扩散的编码器则在训练过程中提供对库尔贝-莱布勒发散的精确估计。值得注意的是，EDG 无需模拟，因此在训练过程中无需求解常微分方程或随机微分方程。此外，通过消除解码器中的双射性等约束条件，EDG 允许进行灵活的网络设计。通过实证评估，我们证明了 EDG 在各种复杂分布任务中的卓越性能，其表现优于现有方法。

关键词：

玻尔兹曼分布 , 基于能量的模型 , 生成模型 , 扩散模型 , 变分自动编码器

\affiliation \隶属关系

organization= 同济大学数学科学学院,city= 上海、国家=中国 /affiliationorganization=Department of Mathematics, Shanghaiormal University,city=Shanghai, country=China /affiliationorganization=School of Mathematical Sciences, Institute of Natural Sciences and MOE-LSC、

Shanghai Jiao Tong University,city=Shanghai, country=China, addressline=, *hwu81@sjtu.edu.cn affiliation\organization=LSEC, Institute of Computational Mathematics and Scientific/Engineering Computing, AMSS, Chinese Academy of Sciences,city=Beijing, country=China

1 简介

在计算化学、统计物理和机器学习等多个领域，从与高维复杂能量函数相对应的玻尔兹曼分布中进行采样的挑战无处不在[1, 2] 。与数据驱动生成模型的训练任务不同，波尔兹曼分布的采样任务可以利用预先采样的数据来学习复杂的分布，但由于缺乏现成的数据[3, 4] ，因此带来了独特而巨大的挑战。例如，模拟伊辛模型的相变可以看作是给定能量函数的采样问题，这是一个复杂而困难的问题，至今尚未得到有效解决[5, 6] 。

马尔可夫链蒙特卡罗（MCMC）方法[7] 以及布朗和哈密顿动力学[8、9, 10, 11] 为解决从高维分布中采样的难题提供了关键的解决方案。这些方法通过迭代生成候选样本和更新样本，最终在无限采样步骤的极限实现渐近无偏性。近年来，研究人员提出了自适应 MCMC 作为生成候选样本的策略，在提高采样过程的效率和有效性方面取得了显著进展[12, 13, 14] 。然而，MCMC 的混合时间过长仍然制约了其性能。一些研究表明，在 MCMC 中使用神经网络构建和优化提议分布可以显著提高其效率[13, 15, 16] 。然而，目前仍缺乏有效且适应性广的损失函数来促进这种优化。

变量推理（Variational inference，VI）是解决棘手分布问题的另一种重要方法。变分推理利用能够快速生成样本的生成器来逼近目标波尔兹曼分布，然后对生成器的参数进行优化，以最小化生成样本的分布与目标分布之间的统计距离，如库尔巴克-莱伯勒（KL）发散。由于归一化流（NF）能够模拟复杂分布并提供明确的概率密度函数，它已被广泛应用于构建 VI 方法的生成器 [17、18, 19, 20, 21, 22、23, 24, 25, 26] .然而，NF 的双射性质对其有效容量造成了限制，往往使其不足以完成某些采样任务。考虑到目标密度函数和生成的样本，斯坦因差异[27, 28] 提供了另一种评估拟合优度的方法，而核函数及其梯度的计算限制了它在高维任务中的表现。此外，MCMC 与 VI 方法的结合也是当前研究的一个焦点 [29、30, 31, 32, 33, 34] . 这种组合试图利用两种方法的优势，为解决与高维分布采样相关的挑战和提高概率建模的效率提供了一条很有前景的途径。

随着基于扩散的生成模型[35, 36, 37, 38] 的蓬勃发展，它们已被应用于解决抽样问题中的难题。通过训练随时间变化的分数匹配神经网络，[39, 40, 41] 中提出的方法将高斯分布塑造成复杂的目标密度，并采用 KL 发散作为损失函数。为了缓解模式搜索问题，[42] 引入了对数方差损失，显示出良好的特性。此外，[43] 中概述了另一种训练目标，该目标依赖于能量函数的灵活插值，对多模态目标有很大改进。然而，这些方法的一个共同缺点是依赖数值微分方程求解器来计算时间积分，这可能会导致大量的计算成本。

在这项研究工作中，我们从变异自动编码器（VAE）技术[44] 和扩散模型中汲取灵感，提出了一种称为基于能量的扩散发生器（EDG）的新方法。EDG 的架构与 VAE 非常相似，包括一个解码器和一个编码器。解码器可以灵活地将根据可控分布分布的潜变量映射到样本，而无需施加诸如双向性之类的约束，我们在这项工作中设计了一个基于广义哈密尔顿动力学的解码器，以提高采样效率。编码器利用扩散过程，能够应用分数匹配技术对给定样本的潜变量条件分布进行精确高效的建模。与现有的基于扩散的方法不同，EDG 的损失函数便于以随机小批量方式计算无偏估计值，无需在训练过程中对常微分方程或随机微分方程进行数值求解。数值实验最终证明了 EDG 的有效性。

2 前言和设置

在这项工作中，我们将深入研究制作生成模型的任务，以便从预定能量 $U:\mathbb{R}^{d}\to\mathbb{R}italic_U : blackboard_R start_POSTSUPERSCRIPT italic_d end_POSTSUPERSCRIPT → blackboard_R$ 驱动的玻尔兹曼分布中采样：

\pi(x)=\frac{1}{Z}\exp(-U(x)),

其中归一化常数 $Z=\int\exp(-U(x))\mathrm{d}xitalic_Z = ∫ roman_exp ( - italic_U ( italic_x ) ) roman_d italic_x$ 通常难以计算。为了应对这一挑战，玻尔兹曼发生器 [18] 及其各种扩展 [24、25, 26], 近年来已成为一种突出的技术。这些方法利用 NF 对可训练的分析密度函数进行参数化，并通过代用密度与 $\piitalic_π$ 之间 KL 发散的最小化实现参数优化。然而，与典型的生成模型不同，追求精确的概率密度计算对 NF 施加了大量限制：每个变换层都必须是双射，而且其雅各矩阵的行列式可以轻松计算。这些要求从本质上限制了 NF 对复杂分布进行有效建模的能力。

现在，我们的重点转移到与 VAE 类似的信号发生器上。这种发生器通过解码器产生的采样为

x|z_{0}\sim p_{D}(x|z_{0},\phi),

其中 $z_{0}\sim p_{D}(z_{0})italic_z start_POSTSUBSCRIPT 0 end_POSTSUBSCRIPT ∼ italic_p start_POSTSUBSCRIPT italic_D end_POSTSUBSCRIPT ( italic_z start_POSTSUBSCRIPT 0 end_POSTSUBSCRIPT )$ 是一个从已知先验分布（通常是标准多元正态分布）中抽取的潜在变量。参数 $\phiitalic_ϕ$ 是解码器的特征，我们将 $p_{D}(x|z_{0};\phi)italic_p start_POSTSUBSCRIPT italic_D end_POSTSUBSCRIPT ( italic_x | italic_z start_POSTSUBSCRIPT 0 end_POSTSUBSCRIPT ; italic_ϕ )$ 定义为高斯分布 $\mathcal{N}(x|\mu(z_{0};\phi),\Sigma(z_{0};\phi))caligraphic_N ( italic_x | italic_μ ( italic_z start_POSTSUBSCRIPT 0 end_POSTSUBSCRIPT ; italic_ϕ ) , roman_Σ ( italic_z start_POSTSUBSCRIPT 0 end_POSTSUBSCRIPT ; italic_ϕ ) )$ ，其中 $\muitalic_μ$ 和 $\Sigmaroman_Σ$ 均由神经网络 (NN) 参数化。与 VAE 类似，我们的目标是训练网络 $\muitalic_μ$ 和 $\Sigmaroman_Σ$ 使生成样本的边际分布 $p_{D}(x)italic_p start_POSTSUBSCRIPT italic_D end_POSTSUBSCRIPT ( italic_x )$ 与目标分布一致。

需要注意的是，与传统的数据驱动 VAE 不同，我们无法获得目标分布 $\pi(x)italic_π ( italic_x )$ 的样本。事实上，获取此类样本正是生成器的目标。因此，KL 发散 $D_{KL}\left(\pi(x)||p_{D}(x)\right)italic_D start_POSTSUBSCRIPT italic_K italic_L end_POSTSUBSCRIPT ( italic_π ( italic_x ) | | italic_p start_POSTSUBSCRIPT italic_D end_POSTSUBSCRIPT ( italic_x ) )$ 的变分近似值不能用于训练模型。相反，在这项工作中，我们考虑以下发散及其上限：

$\displaystyle D_{KL}\left(p_{D}(x)\|\|\pi(x)\right)$	$\displaystyle\leq$	$\displaystyle D_{KL}\left(p_{D}(z_{0})\cdot p_{D}(x\|z_{0},\phi)\|\|\pi(x)\cdot p% _{E}(z_{0}\|x,\theta)\right)$	(1)
	$\displaystyle=$	$\displaystyle\mathbb{E}_{p_{D}(z_{0})\cdot p_{D}(x\|z_{0},\phi)}\left[\log\frac% {p_{D}(z_{0})p_{D}(x\|z_{0},\phi)}{p_{E}(z_{0}\|x,\theta)}+U(x)\right]$
		$\displaystyle+\log Z.$

在这里，参数分布 $p_{E}(z_{0}|x,\theta)italic_p start_POSTSUBSCRIPT italic_E end_POSTSUBSCRIPT ( italic_z start_POSTSUBSCRIPT 0 end_POSTSUBSCRIPT | italic_x , italic_θ )$ 定义了从 $x xitalic_x$ 映射到潜变量 $z zitalic_z$ 的编码器，如果 $p_{E}(z|x,\theta)italic_p start_POSTSUBSCRIPT italic_E end_POSTSUBSCRIPT ( italic_z | italic_x , italic_θ )$ 与从解码器推导出的给定 $x xitalic_x$ 的 $z zitalic_z$ 的条件分布相匹配，则实现了相等。

我们似乎只是增加了问题的复杂性，因为我们仍然需要近似条件分布。不过，在接下来的章节中，我们将演示如何利用扩散模型 [35, 37] 有效地构建编码器，并优化所有参数，而无需数值求解常微分方程或随机微分方程。

3 能量扩散发生器

扩散模型 [37, 38] 是近年来出现的一种估算数据分布的高效方法。其核心思想是构建一个扩散过程，逐步将数据转化为简单的白噪声，然后学习反向过程，从噪声中恢复数据分布。在这项工作中，我们应用了扩散模型的原理，在潜空间中加入了扩散过程，使我们能够有效地克服等式 (1) 所定义的采样问题的变分框架所带来的挑战。我们将这种方法产生的模型称为基于能量的扩散发生器 (EDG)。

3.1 模型架构

在 EDG 框架中，我们从潜在变量 $z_{0}italic_z start_POSTSUBSCRIPT 0 end_POSTSUBSCRIPT$ 启动一个扩散过程，并将其与解码器相结合，形成我们所说的 "解码过程"：

	$\displaystyle z_{0}\in R^{D}\sim p_{D}(z_{0})\triangleq\mathcal{N}(x\|0,I),% \quad x\|z_{0}\sim p_{D}(x\|z_{0};\phi)$
	$\displaystyle\mathrm{d}z_{t}=f(z_{t},t)\mathrm{d}t+g(t)\mathrm{d}W_{t},\quad t% \in[0,T]$		(2)

其中， $W_{t}italic_W start_POSTSUBSCRIPT italic_t end_POSTSUBSCRIPT$ 为标准维纳过程， $f(\cdot,t):R^{D}\rightarrow R^{D}italic_f ( ⋅ , italic_t ) : italic_R start_POSTSUPERSCRIPT italic_D end_POSTSUPERSCRIPT → italic_R start_POSTSUPERSCRIPT italic_D end_POSTSUPERSCRIPT$ 为漂移系数， $g(\cdot):R\rightarrow Ritalic_g ( ⋅ ) : italic_R → italic_R$ 为扩散系数。为了简化符号，我们将解码过程定义的概率分布表示为 $p_{D}italic_p start_POSTSUBSCRIPT italic_D end_POSTSUBSCRIPT$ 。在扩散模型中应用的典型 SDE 中，有两个关键条件：(a) 过渡密度 $p_{D}(z_{t}|z_{0})italic_p start_POSTSUBSCRIPT italic_D end_POSTSUBSCRIPT ( italic_z start_POSTSUBSCRIPT italic_t end_POSTSUBSCRIPT | italic_z start_POSTSUBSCRIPT 0 end_POSTSUBSCRIPT )$ 可以分析计算，而无需数值求解福克-普朗克方程；(b) $z_{T}italic_z start_POSTSUBSCRIPT italic_T end_POSTSUBSCRIPT$ 与 $p_{D}(z_{T})\approx p_{D}(z_{T}|z_{0})italic_p start_POSTSUBSCRIPT italic_D end_POSTSUBSCRIPT ( italic_z start_POSTSUBSCRIPT italic_T end_POSTSUBSCRIPT ) ≈ italic_p start_POSTSUBSCRIPT italic_D end_POSTSUBSCRIPT ( italic_z start_POSTSUBSCRIPT italic_T end_POSTSUBSCRIPT | italic_z start_POSTSUBSCRIPT 0 end_POSTSUBSCRIPT )$ 近似无信息。

如果我们只考虑潜在扩散过程 $z_{[\cdot]}=\{z_{t}\}_{t\in[0,T]}italic_z start_POSTSUBSCRIPT [ ⋅ ] end_POSTSUBSCRIPT = { italic_z start_POSTSUBSCRIPT italic_t end_POSTSUBSCRIPT } start_POSTSUBSCRIPT italic_t ∈ [ 0 , italic_T ] end_POSTSUBSCRIPT$ 的统计特性，那么它是没有信息量的，只能描述从一种简单噪声到另一种简单噪声的过渡。然而，当我们考虑到给定样本 $x xitalic_x$ 时 $z_{t}italic_z start_POSTSUBSCRIPT italic_t end_POSTSUBSCRIPT$ 的条件分布时， $z_{[:]}italic_z start_POSTSUBSCRIPT [ : ] end_POSTSUBSCRIPT$ 过程就代表了复杂条件分布 $p_{D}(z_{0}|x)\propto p_{D}(z_{0})\cdot p_{D}(x|z_{0})italic_p start_POSTSUBSCRIPT italic_D end_POSTSUBSCRIPT ( italic_z start_POSTSUBSCRIPT 0 end_POSTSUBSCRIPT | italic_x ) ∝ italic_p start_POSTSUBSCRIPT italic_D end_POSTSUBSCRIPT ( italic_z start_POSTSUBSCRIPT 0 end_POSTSUBSCRIPT ) ⋅ italic_p start_POSTSUBSCRIPT italic_D end_POSTSUBSCRIPT ( italic_x | italic_z start_POSTSUBSCRIPT 0 end_POSTSUBSCRIPT )$ 逐渐转变为可控分布 $p_{D}(z_{T}|x)=p_{D}(z_{T})italic_p start_POSTSUBSCRIPT italic_D end_POSTSUBSCRIPT ( italic_z start_POSTSUBSCRIPT italic_T end_POSTSUBSCRIPT | italic_x ) = italic_p start_POSTSUBSCRIPT italic_D end_POSTSUBSCRIPT ( italic_z start_POSTSUBSCRIPT italic_T end_POSTSUBSCRIPT )$ 的过程、其中 $z_{T}italic_z start_POSTSUBSCRIPT italic_T end_POSTSUBSCRIPT$ 和 $x xitalic_x$ 之间的独立性来自 $z_{0}italic_z start_POSTSUBSCRIPT 0 end_POSTSUBSCRIPT$ 和 $z_{T}italic_z start_POSTSUBSCRIPT italic_T end_POSTSUBSCRIPT$ 之间的独立性（见 A ）。这意味着，从 $z_{T}\sim p_{D}(z_{T})italic_z start_POSTSUBSCRIPT italic_T end_POSTSUBSCRIPT ∼ italic_p start_POSTSUBSCRIPT italic_D end_POSTSUBSCRIPT ( italic_z start_POSTSUBSCRIPT italic_T end_POSTSUBSCRIPT )$ 开始，我们可以通过模拟以下反向时间扩散方程 [45] 从 $p_{D}(z_{0}|x)italic_p start_POSTSUBSCRIPT italic_D end_POSTSUBSCRIPT ( italic_z start_POSTSUBSCRIPT 0 end_POSTSUBSCRIPT | italic_x )$ 获取样本：

\mathrm{d}z_{\tilde{t}}=-\left(f(z_{\tilde{t}},\tilde{t})-g(\tilde{t})^{2}% \nabla_{z_{\tilde{t}}}\log p_{D}(z_{\tilde{t}}|x)\right)\mathrm{d}\tilde{t}+g(% \tilde{t})\mathrm{d}W_{\tilde{t}},

(3)

其中 $\tilde{t}=T-tover~ start_ARG italic_t end_ARG = italic_T - italic_t$ 表示反向时间。与传统的扩散模型一样，由于得分函数 $\nabla_{z_{\tilde{t}}}\log p_{D}(z_{\tilde{t}}|x)∇ start_POSTSUBSCRIPT italic_z start_POSTSUBSCRIPT over~ start_ARG italic_t end_ARG end_POSTSUBSCRIPT end_POSTSUBSCRIPT roman_log italic_p start_POSTSUBSCRIPT italic_D end_POSTSUBSCRIPT ( italic_z start_POSTSUBSCRIPT over~ start_ARG italic_t end_ARG end_POSTSUBSCRIPT | italic_x )$ 的难处理性，这种模拟的实际实施具有挑战性，因此我们也使用神经网络来近似得分函数，表示为 $s(z_{\tilde{t}},x,\tilde{t};\theta)italic_s ( italic_z start_POSTSUBSCRIPT over~ start_ARG italic_t end_ARG end_POSTSUBSCRIPT , italic_x , over~ start_ARG italic_t end_ARG ; italic_θ )$ 。这种近似导致了我们所说的 "编码过程"，它是通过整合参数反向时间扩散过程和 $x xitalic_x$ 的目标分布来实现的：

	$\displaystyle x\sim\pi(x),\quad z_{T}\sim p_{E}(z_{T})\triangleq p_{D}(z_{T})$
	$\displaystyle\mathrm{d}z_{\tilde{t}}=-\left(f(z_{\tilde{t}},\tilde{t})-g(% \tilde{t})^{2}s(z_{\tilde{t}},x,\tilde{t};\theta)\right)\mathrm{d}\tilde{t}+g(% \tilde{t})\mathrm{d}W_{\tilde{t}},\quad\tilde{t}=T-t.$		(4)

为简化符号，本文中我们将编码过程定义的分布称为 $p_{E}italic_p start_POSTSUBSCRIPT italic_E end_POSTSUBSCRIPT$ 。

图 1 直观描述了解码和编码过程。需要强调的是，潜在扩散模型主要用于解决数据驱动场景中的生成建模问题，最近受到了广泛关注[46, 47, 48] 。他们的主要想法是使用预先训练好的编码器和解码器来获得一个既能有效表示数据又能促进高效采样的潜在空间，并通过扩散模型来学习潜在变量的分布。我们的 EDG 模型利用类似的理念来解决基于能量的采样问题。EDG 与之前的潜变量扩散模型在结构和算法上的主要区别如下：首先，在 EDG 中，扩散模型本身就是编码器，无需单独的编码器；其次，通过使用统一的损失函数，解码器与扩散模型共同训练（见第 3.2 节）。

Refer to caption — 图 1：解码和编码过程的概率图，灰色部分为模型的可训练部分。

下面，我们将介绍 EDG 模块的构造细节，这些模块将在我们的实验中使用。在实际应用中，可以根据需要设计更有效的神经网络。

3.1.1边界条件引导的分数函数模型

考虑到真实分数函数满足 $t = 0, T t=0,Titalic_t = 0 , italic_T$ 的以下边界条件：

$\displaystyle\nabla_{z_{0}}\log p_{D}(z_{0}\|x)$	$\displaystyle=$	$\displaystyle\nabla_{z_{0}}\left[\log p_{D}(z_{0}\|x)+\log p_{D}(x)\right]$
	$\displaystyle=$	$\displaystyle\nabla_{z_{0}}\log p_{D}(x,z_{0})$
	$\displaystyle=$	$\displaystyle\nabla_{z_{0}}\left[\log p_{D}(x\|z_{0})+\log p_{D}(z_{0})\right]$

and 和

\nabla_{z_{T}}\log p_{D}(z_{T}|x)=\nabla_{z_{T}}\log p_{D}(z_{T}),

我们建议将 $s(z,x,t;\theta)italic_s ( italic_z , italic_x , italic_t ; italic_θ )$ 表述为

	$\displaystyle s(z,x,t;\theta)$	$\displaystyle=$	$\displaystyle\left(1-\frac{t}{T}\right)\cdot\nabla_{z_{0}}\left[\log p_{D}(x\|z% _{0}=z)+\log p_{D}(z_{0}=z)\right]$
			$\displaystyle+\frac{t}{T}\cdot\nabla_{z_{T}}\log p_{D}(z_{T}=z)+\frac{t}{T}% \left(1-\frac{t}{T}\right)s^{\prime}(z,x,t;\theta),$

其中， $s^{\prime}(z,x,t;\theta)italic_s start_POSTSUPERSCRIPT ′ end_POSTSUPERSCRIPT ( italic_z , italic_x , italic_t ; italic_θ )$ 是要训练的神经网络。这种表述方式可确保 $s sitalic_s$ 的误差在 $t = 0 t=0italic_t = 0$ 和 $t = T t=Titalic_t = italic_T$ 中均为零。

3.1.2 基于广义哈密顿动力学的解码器

受广义哈密顿动力学（GHD）[12, 13] 的启发，解码器通过以下过程生成输出 $x xitalic_x$ 。首先，根据潜变量 $z_{0}italic_z start_POSTSUBSCRIPT 0 end_POSTSUBSCRIPT$ 生成初始样本和速度 ( $y, v y,vitalic_y , italic_v$ )。然后，对 $(y, v) (y,v)( italic_y , italic_v )$ 进行如下迭代更新：

$\displaystyle v$	$\displaystyle:=$	$\displaystyle v-\frac{\epsilon(l;\phi)}{2}\left(\nabla U(y)\odot e^{\frac{% \epsilon_{0}}{2}Q_{v}(y,\nabla U(y),l;\phi)}+T_{v}(y,\nabla U(y),l;\phi)\right),$
$\displaystyle y$	$\displaystyle:=$	$\displaystyle y+\epsilon(l;\phi)\left(v_{k}\odot e^{\epsilon_{0}Q_{y}(v_{k},l;% \phi)}+T_{y}(v_{k},l;\phi)\right),$
$\displaystyle v$	$\displaystyle:=$	$\displaystyle v-\frac{\epsilon(l;\phi)}{2}\left(\nabla U(y)\odot e^{\frac{% \epsilon_{0}}{2}Q_{v}(y,\nabla U(y),l;\phi)}+T_{v}(y,\nabla U(y),l;\phi)\right).$

最后，解码器输出 $x xitalic_x$ 由以下公式给出：

x=y-\exp(\epsilon_{0}\eta(y;\phi))\nabla U(y)+2\exp(\epsilon_{0}\eta(y;\phi))\xi

其中 $\xiitalic_ξ$ 是按照标准高斯分布分布的。该方程可解释为布朗动力学 $\mathrm{d}y=-\nabla U(y)\,\mathrm{d}t+\mathrm{d}W_{t}roman_d italic_y = - ∇ italic_U ( italic_y ) roman_d italic_t + roman_d italic_W start_POSTSUBSCRIPT italic_t end_POSTSUBSCRIPT$ 的有限步近似。在上述过程中， $Q_{v}italic_Q start_POSTSUBSCRIPT italic_v end_POSTSUBSCRIPT$ 、 $T_{v}italic_T start_POSTSUBSCRIPT italic_v end_POSTSUBSCRIPT$ 、 $Q_{y}italic_Q start_POSTSUBSCRIPT italic_y end_POSTSUBSCRIPT$ 、 $T_{y}italic_T start_POSTSUBSCRIPT italic_y end_POSTSUBSCRIPT$ 、 $\epsilonitalic_ϵ$ 和 $\etaitalic_η$ 都是可训练的神经网络。

基于 GHD 的解码器有两方面的主要优势。首先，它能有效利用能量函数的梯度信息，我们的实验表明，它能提高多模态分布的采样性能。其次，通过在经典哈密顿动力学中加入可训练的修正项和步骤，它只需几次迭代就能达到很好的解码密度。完整的解码过程请参见C 。

3.2损失函数

为了优化解码和编码过程的参数，我们可以最小化解码和编码过程提供的 $(x,z_{[\cdot]})( italic_x , italic_z start_POSTSUBSCRIPT [ ⋅ ] end_POSTSUBSCRIPT )$ 联合分布之间的 KL 分歧。由于数据处理不等式，该发散也是 $D_{KL}(p_{D}(x)||\pi(x))italic_D start_POSTSUBSCRIPT italic_K italic_L end_POSTSUBSCRIPT ( italic_p start_POSTSUBSCRIPT italic_D end_POSTSUBSCRIPT ( italic_x ) | | italic_π ( italic_x ) )$ 的上界，就像（1 ）中的上界一样。根据 B 中的推导，KL 发散可表示为

D_{KL}\left(p_{D}(x,z_{[\cdot]})||p_{E}(x,z_{[\cdot]})\right)=\mathcal{L}(% \theta,\phi)+\log Z,

(5)

where 其中

$\displaystyle\mathcal{L}(\theta,\phi)$	$\displaystyle=$	$\displaystyle\mathbb{E}_{p_{D}}\left[\log p_{D}(x\|z_{0};\phi)+U(x)\right]$	(6)
		$\displaystyle+\int_{0}^{T}\frac{g(t)^{2}}{2}\mathbb{E}_{p_{D}}\Bigg{[}\left\\|s% \left(z_{t},x,t;\theta\right)\right\\|^{2}+2\nabla_{z_{t}}\cdot s\left(z_{t},x,% t;\theta\right)$
		$\displaystyle\hskip 170.71652pt+\left\\|\nabla_{z_{t}}\log p_{D}(z_{t})\right\\|% ^{2}\Bigg{]}\mathrm{d}t.$

通过利用重要性采样积分和 Hutchinson 估计器，我们可以得到 $\mathcal{L}(\theta,\phi)caligraphic_L ( italic_θ , italic_ϕ )$ 的等效表达式，该表达式可以通过蒙特卡罗随机抽样从 $p_{D}italic_p start_POSTSUBSCRIPT italic_D end_POSTSUBSCRIPT$ 中高效、无偏地估计出来，而无需对 SDE 进行数值求解：

	$\displaystyle\mathcal{L}(\theta,\phi)$	$\displaystyle=$	$\displaystyle\mathbb{E}_{p_{D}}\left[\log p_{D}(x\|z_{0};\phi)+U(x)\right]$		(7)
			$\displaystyle+\int_{0}^{T}\lambda(t)\cdot\mathbb{E}_{p(t)p(\epsilon)p_{D}(x,z_% {t})}\left[\mathcal{L}_{t}(x,z_{t},\epsilon;\theta)\right]\mathrm{d}t,$		(7)

where 其中

\mathcal{L}_{t}(x,z_{t},\epsilon;\theta)=\left\|s\left(z_{t},x,t;\theta\right)% \right\|^{2}+2\frac{\partial\left[\epsilon^{\top}s\left(z_{t},x,t;\theta\right% )\right]}{\partial z_{t}}\epsilon+\left\|\nabla_{z_{t}}\log p_{D}(z_{t})\right% \|^{2},

$p(\epsilon)italic_p ( italic_ϵ )$ 是具有 $\mathbb{E}[\epsilon]=0,\mathrm{cov}(\epsilon)=Iblackboard_E [ italic_ϵ ] = 0 , roman_cov ( italic_ϵ ) = italic_I$ 的拉德马赫分布， $p (t) p(t)italic_p ( italic_t )$ 是 $t\in[0,T]italic_t ∈ [ 0 , italic_T ]$ 的提议分布，以及加权函数 $\lambda(t)=\frac{g(t)^{2}}{2p(t)}italic_λ ( italic_t ) = divide start_ARG italic_g ( italic_t ) start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT end_ARG start_ARG 2 italic_p ( italic_t ) end_ARG$ 。然后，可以使用随机梯度下降法最小化损失函数（7 ）来训练 EDG 中涉及的所有神经网络。

在我们的实验中，为了减小蒙特卡罗损失函数近似中固有的方差，我们采用了 [49] 中的策略，根据历史缓冲区动态调整时间建议分布 $p_{D}(t)italic_p start_POSTSUBSCRIPT italic_D end_POSTSUBSCRIPT ( italic_t )$ ，该缓冲区存储了与 $t titalic_t$ 相关的最近损失值的 r.h.s of (7).更多详情，请参阅 D 。

3.3样本重新加权

训练完成后，我们可以使用解码器 $p_{D}(x|z_{0})italic_p start_POSTSUBSCRIPT italic_D end_POSTSUBSCRIPT ( italic_x | italic_z start_POSTSUBSCRIPT 0 end_POSTSUBSCRIPT )$ 生成样本，并计算目标分布 $\pi(x)italic_π ( italic_x )$ 的各种统计数据。例如，对于感兴趣的数量 $O:\mathbb{R}^{d}\to\mathbb{R}italic_O : blackboard_R start_POSTSUPERSCRIPT italic_d end_POSTSUPERSCRIPT → blackboard_R$ ，我们可以从 $p_{D}(z_{0})p_{D}(x|z_{0})italic_p start_POSTSUBSCRIPT italic_D end_POSTSUBSCRIPT ( italic_z start_POSTSUBSCRIPT 0 end_POSTSUBSCRIPT ) italic_p start_POSTSUBSCRIPT italic_D end_POSTSUBSCRIPT ( italic_x | italic_z start_POSTSUBSCRIPT 0 end_POSTSUBSCRIPT )$ 中提取 $N Nitalic_N$ 增强样本 $\{(x^{n},z_{0}^{n})\}_{n=1}^{N}{ ( italic_x start_POSTSUPERSCRIPT italic_n end_POSTSUPERSCRIPT , italic_z start_POSTSUBSCRIPT 0 end_POSTSUBSCRIPT start_POSTSUPERSCRIPT italic_n end_POSTSUPERSCRIPT ) } start_POSTSUBSCRIPT italic_n = 1 end_POSTSUBSCRIPT start_POSTSUPERSCRIPT italic_N end_POSTSUPERSCRIPT$ ，并按如下方法估计期望值 $\mathbb{E}_{\pi(x)}[O(x)]blackboard_E start_POSTSUBSCRIPT italic_π ( italic_x ) end_POSTSUBSCRIPT [ italic_O ( italic_x ) ]$ ：

\mathbb{E}_{\pi(x)}[O(x)]\approx\frac{1}{N}\sum_{n}O(x^{n}).

然而，由于模型误差，这种估计可能会出现系统性偏差。为了解决这个问题，我们可以使用重要性采样，将 $p_{D}(x,z_{0})=p_{D}(z_{0})p_{D}(x|z_{0})italic_p start_POSTSUBSCRIPT italic_D end_POSTSUBSCRIPT ( italic_x , italic_z start_POSTSUBSCRIPT 0 end_POSTSUBSCRIPT ) = italic_p start_POSTSUBSCRIPT italic_D end_POSTSUBSCRIPT ( italic_z start_POSTSUBSCRIPT 0 end_POSTSUBSCRIPT ) italic_p start_POSTSUBSCRIPT italic_D end_POSTSUBSCRIPT ( italic_x | italic_z start_POSTSUBSCRIPT 0 end_POSTSUBSCRIPT )$ 作为建议分布，将 $p_{E}(x,z_{0})=\pi(x)p_{E}(z_{0}|x)italic_p start_POSTSUBSCRIPT italic_E end_POSTSUBSCRIPT ( italic_x , italic_z start_POSTSUBSCRIPT 0 end_POSTSUBSCRIPT ) = italic_π ( italic_x ) italic_p start_POSTSUBSCRIPT italic_E end_POSTSUBSCRIPT ( italic_z start_POSTSUBSCRIPT 0 end_POSTSUBSCRIPT | italic_x )$ 作为增强目标分布。然后，我们可以为解码器生成的每个样本 $(x,z_{0})( italic_x , italic_z start_POSTSUBSCRIPT 0 end_POSTSUBSCRIPT )$ 分配一个非规范化权重：

w(x,z_{0})=\frac{\exp(-U(x))p_{E}(z_{0}|x)}{p_{D}(z_{0})p_{D}(x|z_{0})}\propto% \frac{\pi(x)p_{E}(z_{0}|x)}{p_{D}(z_{0})p_{D}(x|z_{0})}

(8)

并得到 $\mathbb{E}_{\pi(x)}[O(x)]blackboard_E start_POSTSUBSCRIPT italic_π ( italic_x ) end_POSTSUBSCRIPT [ italic_O ( italic_x ) ]$ 的一致估计值：

\mathbb{E}_{\pi(x)}[O(x)]\approx\frac{\sum_{n}w(x^{n},z_{0}^{n})O(x^{n})}{\sum% _{n}w(x^{n},z_{0}^{n})},

其中估计误差随着 $N\to\inftyitalic_N → ∞$ 的变化趋近于零。

此外，权重函数 $w witalic_w$ 还可用于估计归一化常数 $Z Zitalic_Z$ ，这在许多应用中都是一项关键任务，例如统计学中的贝叶斯模型选择和统计物理学中的自由能估计。根据 (1), 我们可以得出：

\log Z\geq-\mathbb{E}_{p_{D}(x,z_{0})}\left[\log w(x,z_{0})\right].

在这里，下限也可以使用解码器的样本来估算，当 $p_{D}(x,z_{0})=p_{E}(x,z_{0})italic_p start_POSTSUBSCRIPT italic_D end_POSTSUBSCRIPT ( italic_x , italic_z start_POSTSUBSCRIPT 0 end_POSTSUBSCRIPT ) = italic_p start_POSTSUBSCRIPT italic_E end_POSTSUBSCRIPT ( italic_x , italic_z start_POSTSUBSCRIPT 0 end_POSTSUBSCRIPT )$ 时，就能达到这个下限的严格程度。

上述计算的主要困难在于计算权重函数时，边际解码器密度 $p_{E}(z_{0}|x)italic_p start_POSTSUBSCRIPT italic_E end_POSTSUBSCRIPT ( italic_z start_POSTSUBSCRIPT 0 end_POSTSUBSCRIPT | italic_x )$ 的难易程度。为了克服这一困难，我们根据 [37] 中第 4.3 节的结论，构建了以下概率流常微分方程（ODE）：

\mathrm{d}z_{t}=\left(f(z_{t},t)-\frac{1}{2}g(t)^{2}s(z_{t},x,t;\theta)\right)% \mathrm{d}t,

与边界条件 $z_{T}\sim p_{E}(z_{T})italic_z start_POSTSUBSCRIPT italic_T end_POSTSUBSCRIPT ∼ italic_p start_POSTSUBSCRIPT italic_E end_POSTSUBSCRIPT ( italic_z start_POSTSUBSCRIPT italic_T end_POSTSUBSCRIPT )$ 。如果 $s(z_{t},x,t;\theta)italic_s ( italic_z start_POSTSUBSCRIPT italic_t end_POSTSUBSCRIPT , italic_x , italic_t ; italic_θ )$ 在训练后能准确逼近得分函数 $\nabla_{z_{t}}\log p_{E}(z_{t}|x)∇ start_POSTSUBSCRIPT italic_z start_POSTSUBSCRIPT italic_t end_POSTSUBSCRIPT end_POSTSUBSCRIPT roman_log italic_p start_POSTSUBSCRIPT italic_E end_POSTSUBSCRIPT ( italic_z start_POSTSUBSCRIPT italic_t end_POSTSUBSCRIPT | italic_x )$ ，那么 ODE 给出的 $z_{t}|xitalic_z start_POSTSUBSCRIPT italic_t end_POSTSUBSCRIPT | italic_x$ 的条件分布将与每个 $t\in[0,1]italic_t ∈ [ 0 , 1 ]$ 的编码过程相匹配。因此，我们可以使用神经 ODE 方法 [50] 高效计算 $p_{E}(z_{0}|x)italic_p start_POSTSUBSCRIPT italic_E end_POSTSUBSCRIPT ( italic_z start_POSTSUBSCRIPT 0 end_POSTSUBSCRIPT | italic_x )$ 。

4 实验

我们对各种能量函数的 EDG 进行了实证评估。首先，我们介绍了从一组二维分布中获得的结果。接着，我们展示了 EDG 在贝叶斯逻辑回归中的表现。最后，我们将 EDG 应用于一个伊辛模型。E 中提供了所有实验细节。此外，我们还进行了一项消融研究，以验证 EDG 中每个模块的有效性。更多信息请参阅F 。

为了证明我们的模型的优越性，我们将 EDG 与以下抽样方法进行了比较：

1.Vanilla Hamiltonian Monte Carlo 法[ 8] ，简称 V-HMC。
2.L2HMC [ 13] 是一种基于 GHD 的 MCMC 方法，具有可训练的提议分布模型。
3.Boltzmann Generator（BG）[ 18]，这是一种 VI 方法，使用 RealNVP 对代理分布进行建模[ 51]。
4.神经重正化组（NeuralRG）[ 17]，一种类似于 BG 的方法，专为伊辛模型设计。在本节中，NeuralRG 仅用于伊辛模型的实验。
5.路径积分采样器（PIS）[ 39]，这是一种通过对 SDE 进行数值模拟的基于扩散的采样模型。

表 1：每个生成器生成的样本与参考样本之间的最大平均差异（MMD）。有关差异计算的详细信息，请参阅 E 。

	Mog2	Mog2(i)	Mog6	Mog9 莫格9	Ring 环	Ring5 环5
V-HMC	$\mathbf{0.01}$	$1.56$	$0.02$	$0.04$	$\mathbf{0.01}$	$\mathbf{0.01}$
L2HMC	$0.04$	$0.94$	$\mathbf{0.01}$	$0.03$	$0.02$	$\mathbf{0.01}$
BG	$1.90$	$1.63$	$2.64$	$0.07$	$0.05$	$0.18$
PIS	$\mathbf{0.01}$	$1.66$	$\mathbf{0.01}$	$0.42$	$\mathbf{0.01}$	$0.78$
EDG	$\mathbf{0.01}$	$\mathbf{0.50}$	$\mathbf{0.01}$	$\mathbf{0.02}$	$\mathbf{0.01}$	$0.02$

二维能量函数首先，我们在几个合成的二维能量函数上比较了我们的模型和其他模型：MoG2(i)（具有相同 $\sigma^{2}=0.5italic_σ start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT = 0.5$ 或不同方差 $\sigma_{1}^{2}=1.5,\sigma_{2}^{2}=0.3italic_σ start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT = 1.5 , italic_σ start_POSTSUBSCRIPT 2 end_POSTSUBSCRIPT start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT = 0.3$ 的两个各向同性高斯的混合物，中心点之间的距离为 $101010$ ）、MoG6（具有方差 $\sigma^{2}=0.1italic_σ start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT = 0.1$ 的六个各向同性高斯的混合物）、MoG9（方差为 $\sigma^{2}=0.3italic_σ start_POSTSUPERSCRIPT 2 end_POSTSUPERSCRIPT = 0.3$ 的九个各向同性高斯的混集）、Ring、Ring5（能量函数见[12]）。我们在图 2 中展示了样本直方图，以供目测，表 1 总结了采样误差。如图所示，与其他方法相比，EDG 提供的样本质量更高。为了阐明 EDG 中每个组件的功能，我们将我们的模型与 F 中的 vanilla VAE 进行了比较。

贝叶斯逻辑回归在随后的实验中，我们将重点介绍 EDG 在贝叶斯逻辑回归中的功效，尤其是在处理位于高维空间中的后验分布时。在这种情况下，我们处理的是一个二元分类问题，其标签为 $L=\{0,1\}italic_L = { 0 , 1 }$ ，高维特征为 $D Ditalic_D$ 。分类器的输出定义为

p(L=1|D,x)=\mathrm{softmax}(w^{\top}D+b),

其中 $x = (w, b) x=(w,b)italic_x = ( italic_w , italic_b )$ 。我们的目标是从后验分布中抽取样本 $x^{1},\ldots,x^{N}italic_x start_POSTSUPERSCRIPT 1 end_POSTSUPERSCRIPT , … , italic_x start_POSTSUPERSCRIPT italic_N end_POSTSUPERSCRIPT$

\pi(x)\propto p(x)\prod_{(L,D)\in\mathcal{D}_{\mathrm{train}}}p(L|D,x)

基于训练集 $\mathcal{D}_{\mathrm{train}}caligraphic_D start_POSTSUBSCRIPT roman_train end_POSTSUBSCRIPT$ ，其中先验分布 $p (x) p(x)italic_p ( italic_x )$ 是标准高斯分布。然后，对于给定的 $D Ditalic_D$ ，条件分布 $p(L|D,\mathcal{D}_{\mathrm{train}})italic_p ( italic_L | italic_D , caligraphic_D start_POSTSUBSCRIPT roman_train end_POSTSUBSCRIPT )$ 可以近似为 $\sum_{n}p(L|D,x^{n})∑ start_POSTSUBSCRIPT italic_n end_POSTSUBSCRIPT italic_p ( italic_L | italic_D , italic_x start_POSTSUPERSCRIPT italic_n end_POSTSUPERSCRIPT )$ 。我们在三个数据集上进行了实验：[52] ，评估测试子集的准确率 (ACC) 和曲线下面积 (AUC)。值得注意的是，如表 2 所示，EDG 始终保持着最高的准确率和 AUC 性能。

表 2：贝叶斯逻辑回归任务的分类准确率和 AUC 结果。实验采用一致的训练和测试数据分区，其中 HMC 步长设置为

0.01 0.010.01

。平均准确率和 AUC 值以及各自的标准偏差是在所有数据集的

323232

独立实验中计算得出的。

	AU		GE		HE
	Acc	Auc	Acc	Auc	Acc	Auc
V-HMC	$82.97\pm 1.94$	$90.88\pm 0.83$	$78.52\pm 0.48$	$77.67\pm 0.28$	$86.75\pm 1.63$	$93.35\pm 0.76$
L2HMC	$73.26\pm 1.56$	$79.69\pm 3.65$	$62.02\pm 4.19$	$60.23\pm 5.10$	$82.23\pm 2.81$	$90.48\pm 0.51$
BG	$82.99\pm 1.18$	$91.23\pm 0.67$	$78.14\pm 1.44$	$77.59\pm 0.73$	$86.75\pm 1.99$	$93.44\pm 0.39$
PIS	$81.64\pm 2.63$	$91.23\pm 0.67$	$71.90\pm 3.17$	$71.67\pm 4.52$	$83.24\pm 3.95$	$91.68\pm 2.78$
EDG	$\mathbf{84.96\pm 1.67}$	$\mathbf{92.82\pm 0.69}$	$\mathbf{79.40\pm 1.74}$	$\mathbf{82.79\pm 1.46}$	$\mathbf{88.02\pm 3.90}$	$\mathbf{95.10\pm 1.23}$

我们将分析扩展到由 581 012 个数据点和 54 个特征组成的二元 Covertype 数据集。分类器参数的后验遵循分层贝叶斯模型（见 [27] 的第 5 章），其中 $x xitalic_x$ 表示分类器参数和分层贝叶斯模型中超参数的组合。为了提高计算效率，在 BG 和 EDG 中， $\log\pi(x)roman_log italic_π ( italic_x )$ 在训练过程中无偏近似为

\log\pi(x)\approx\log p(x)+\frac{|\mathcal{D}_{\mathrm{train}}|}{|\mathcal{B}|% }\sum_{(L,D)\in\mathcal{B}}\log p(L|D,x),

其中 $\mathcal{B}caligraphic_B$ 为随机小批量。对于 V-HMC 和 L2HMC，计算的是精确的后验密度。表 3 中的结果表明，EDG 始终优于其他方法。

表 3：Coverstype 测试数据集的分类准确率。报告值代表 32 次独立实验的平均准确率和标准偏差。

	V-HMC	L2HMC	BG	PIS	EDG
Acc	$49.88\pm 3.32$	$51.51\pm 3.46$	$50.75\pm 3.78$	$50.59\pm 2.94$	$\mathbf{70.13\pm 2.13}$

表 4：通过第 3.3 节中描述的方法，获得了维数为 256 的二维等化模型中

\log Z_{\mathrm{Ising}}roman_log italic_Z start_POSTSUBSCRIPT roman_Ising end_POSTSUBSCRIPT

的估计值（

16\times 1616 × 16

）。我们利用

n = 256 n=256italic_n = 256

的批量大小来估计平均值，并应用中心极限定理计算出统计量平均值的标准偏差为

\mathrm{std}/\sqrt{n}roman_std / square-root start_ARG italic_n end_ARG

。

$\log Z_{\mathrm{Ising}}$	NeuralRG 神经网络	PIS	EDG
$T=2.0$	$260\pm 0.13$	$210\pm 0.43$	$\mathbf{270\pm 0.18}$
$T=2.1$	$250\pm 0.14$	$208\pm 0.41$	$\mathbf{255\pm 0.19}$
$T=2.2$	$239\pm 0.16$	$210\pm 0.39$	$\mathbf{252\pm 0.17}$
$T=2.3$	$231\pm 0.15$	$214\pm 0.37$	$\mathbf{233\pm 0.17}$
$T=2.4$	$\mathbf{225\pm 0.17}$	$212\pm 0.37$	$\mathbf{225\pm 0.15}$
$T=2.5$	$219\pm 0.17$	$202\pm 0.37$	$\mathbf{221\pm 0.14}$
$T=2.6$	$\mathbf{216\pm 0.18}$	$181\pm 0.40$	$214\pm 0.14$
$T=2.7$	$\mathbf{212\pm 0.18}$	$189\pm 0.36$	$\mathbf{212\pm 0.14}$

伊辛模型最后，我们验证了 EDG 在二维伊辛模型 [17] 上的性能，该模型是统计力学中的铁磁数学模型。为确保物理变量的连续性，我们采用连续松弛技巧 [53] 将离散变量转换为具有目标分布的连续辅助变量：

\pi(\boldsymbol{x})=\exp\left(-\frac{1}{2}\boldsymbol{x}^{T}\left(K(T)+\alpha I% \right)^{-1}\boldsymbol{x}\right)\times\prod_{i=1}^{N}\cosh\left(x_{i}\right),

其中 $K Kitalic_K$ 是一个与温度 $T Titalic_T$ 有关的 $N\times Nitalic_N × italic_N$ 对称矩阵， $\alphaitalic_α$ 是一个保证 $K+\alpha Iitalic_K + italic_α italic_I$ 为正值的常数。对于相应的离散伊辛变量 $\boldsymbol{s}=\{1,-1\}^{\otimes N}bold_italic_s = { 1 , - 1 } start_POSTSUPERSCRIPT ⊗ italic_N end_POSTSUPERSCRIPT$ ，可以根据 $\pi(\boldsymbol{s}|\boldsymbol{x})=\prod_{i}\left(1+e^{-2s_{i}x_{i}}\right)^{-1}italic_π ( bold_italic_s | bold_italic_x ) = ∏ start_POSTSUBSCRIPT italic_i end_POSTSUBSCRIPT ( 1 + italic_e start_POSTSUPERSCRIPT - 2 italic_s start_POSTSUBSCRIPT italic_i end_POSTSUBSCRIPT italic_x start_POSTSUBSCRIPT italic_i end_POSTSUBSCRIPT end_POSTSUPERSCRIPT ) start_POSTSUPERSCRIPT - 1 end_POSTSUPERSCRIPT$ 直接得到离散样本。当没有外部磁场，每个自旋只能与相邻的自旋相互作用时， $K Kitalic_K$ 定义为 $\sum_{<ij>}s_{i}s_{j}/T∑ start_POSTSUBSCRIPT < italic_i italic_j > end_POSTSUBSCRIPT italic_s start_POSTSUBSCRIPT italic_i end_POSTSUBSCRIPT italic_s start_POSTSUBSCRIPT italic_j end_POSTSUBSCRIPT / italic_T$ ，近邻和为 $< i j > <ij>< italic_i italic_j >$ 。因此，连续弛豫系统的归一化常数由 $\log Z=\log Z_{\text{Ising }}+\frac{1}{2}\ln\operatorname{det}(K+\alpha I)-% \frac{N}{2}[\ln(2/\pi)-\alpha]roman_log italic_Z = roman_log italic_Z start_POSTSUBSCRIPT Ising end_POSTSUBSCRIPT + divide start_ARG 1 end_ARG start_ARG 2 end_ARG roman_ln roman_det ( italic_K + italic_α italic_I ) - divide start_ARG italic_N end_ARG start_ARG 2 end_ARG [ roman_ln ( 2 / italic_π ) - italic_α ]$ [17] 给出。此外，使用第 3.3 节中描述的方法，我们为 NeuralRG、PIS 和 EDG 生成的样本提供了不同温度下 $\log Z_{\text{Ising}}roman_log italic_Z start_POSTSUBSCRIPT Ising end_POSTSUBSCRIPT$ 的下限估计值。由于这些是下限估计值，因此数值越大表示结果越精确。如表 4 所示，在大多数温度范围内，EDG 提供了最准确的 $\log Zroman_log italic_Z$ 估计值。图 3 显示了不同温度下生成的状态。

5 Conclusion
5 结论

总之，我们的工作结合了基于 VI 和扩散方法的原理，将 EDG 介绍为一种创新而有效的采样方法。EDG 从 VAE 中汲取灵感，擅长从错综复杂的玻尔兹曼分布中高效生成样本。利用扩散模型的表现力，我们的方法无需对常微分方程或随机微分方程进行数值求解，就能准确估计 KL 发散。经验实验验证了 EDG 的卓越采样性能。

考虑到其强大的生成能力和理论上不受限制的网络设计，仍有进一步探索的空间。我们可以针对不同的任务设计特定的网络结构，找到最精细的网络结构。尽管如此，它还是首次尝试在扩散模型的辅助下设计单次生成器。

今后，我们的主要重点将是扩展 EDG 的应用，为蛋白质等大规模物理和化学系统构建生成模型 [54, 55].

致谢

第一和第三作者受中国国家自然科学基金资助（资助号：12171367）。第二作者得到中国国家自然科学基金（批准号：92270115、12071301）、上海市科委（批准号：20JC1412500）和河南省科学院的资助。最后一位作者得到中国国家自然科学基金（批准号：12288201）、中国科学院战略性先导科技专项（批准号：XDA25010404）、国家重点研发计划（2020YFA0712000）、中科院青年创新促进会和河南省科学院的资助。

附录 A $z_{T}italic_z start_POSTSUBSCRIPT italic_T end_POSTSUBSCRIPT$ 和 $x xitalic_x$ 之间独立性的证明

在解码过程中，如果 $z_{T}italic_z start_POSTSUBSCRIPT italic_T end_POSTSUBSCRIPT$ 与 $z_{0}italic_z start_POSTSUBSCRIPT 0 end_POSTSUBSCRIPT$ 无关，那么我们有

$\displaystyle p_{D}(z_{T}\|x)$	$\displaystyle=$	$\displaystyle\int p_{D}(z_{T}\|z_{0})p_{D}(z_{0}\|x)\mathrm{d}z_{0}$
	$\displaystyle=$	$\displaystyle p_{D}(z_{T})\cdot\int p_{D}(z_{0}\|x)\mathrm{d}z_{0}$
	$\displaystyle=$	$\displaystyle p_{D}(z_{T}).$

Appendix B Proof of (5)

对于极小的滞后时间 $\tauitalic_τ$ ，解码过程中 $z_{[\cdot]}italic_z start_POSTSUBSCRIPT [ ⋅ ] end_POSTSUBSCRIPT$ 的欧拉-马鲁山离散化提供了

	$\displaystyle z_{t}$	$\displaystyle=$	$\displaystyle z_{t-\tau}+f(z_{t-\tau},t-\tau)\tau+\sqrt{\tau}g(t-\tau)u_{t-% \tau},$		(9)
	$\displaystyle z_{t-\tau}$	$\displaystyle=$	$\displaystyle z_{t}-\left(f(z_{t},t)-g(t)^{2}\nabla\log p_{D}(z_{t})\right)% \tau+\sqrt{\tau}g(t)\bar{u}_{t},$		(10)

其中， $u_{t-\tau},\bar{u}_{t}\sim\mathcal{N}(\cdot|0,I)italic_u start_POSTSUBSCRIPT italic_t - italic_τ end_POSTSUBSCRIPT , over¯ start_ARG italic_u end_ARG start_POSTSUBSCRIPT italic_t end_POSTSUBSCRIPT ∼ caligraphic_N ( ⋅ | 0 , italic_I )$ 。重要的是， $u_{t-\tau}italic_u start_POSTSUBSCRIPT italic_t - italic_τ end_POSTSUBSCRIPT$ 与 $\{z_{t^{\prime}}|t^{\prime}\leq t-\tau\}{ italic_z start_POSTSUBSCRIPT italic_t start_POSTSUPERSCRIPT ′ end_POSTSUPERSCRIPT end_POSTSUBSCRIPT | italic_t start_POSTSUPERSCRIPT ′ end_POSTSUPERSCRIPT ≤ italic_t - italic_τ }$ 和 $x xitalic_x$ 无关，而 $\bar{u}_{t}over¯ start_ARG italic_u end_ARG start_POSTSUBSCRIPT italic_t end_POSTSUBSCRIPT$ 与 $\{z_{t^{\prime}}|t^{\prime}\geq t\}{ italic_z start_POSTSUBSCRIPT italic_t start_POSTSUPERSCRIPT ′ end_POSTSUPERSCRIPT end_POSTSUBSCRIPT | italic_t start_POSTSUPERSCRIPT ′ end_POSTSUPERSCRIPT ≥ italic_t }$ 无关。通过对 $p_{E}(z_{[\cdot]}|x)italic_p start_POSTSUBSCRIPT italic_E end_POSTSUBSCRIPT ( italic_z start_POSTSUBSCRIPT [ ⋅ ] end_POSTSUBSCRIPT | italic_x )$ 的欧拉-马鲁山近似计算，可以得出

z_{t-\tau}=z_{t}-\left(f(z_{t},t)-g(t)^{2}s\left(z_{t},x,t\right)\right)\tau+% \sqrt{\tau}g(t)v_{t}

(11)

with $v_{t}\sim\mathcal{N}(\cdot|0,I)$ . 用 $v_{t}\sim\mathcal{N}(\cdot|0,I)italic_v start_POSTSUBSCRIPT italic_t end_POSTSUBSCRIPT ∼ caligraphic_N ( ⋅ | 0 , italic_I )$ 。

根据（10, 11 ），我们可以得到

$\displaystyle\mathbb{E}_{p_{D}}\left[\log p_{D}(z_{t-\tau}\|z_{t})\right]$	$\displaystyle=$	$\displaystyle-\frac{d}{2}\log 2\pi-\frac{d}{2}\log\tau g(t)^{2}$	(12)
		$\displaystyle-\frac{1}{2}\tau^{-1}g(t)^{-2}\mathbb{E}_{p_{D}}\left[\left\\|z_{t% -\tau}-z_{t}+\left(f(z_{t},t)-g(t)^{2}\nabla\log p_{D}(z_{t})\right)\tau\right% \\|^{2}\right]$
	$\displaystyle=$	$\displaystyle-\frac{d}{2}\log 2\pi-\frac{d}{2}\log\tau g(t)^{2}-\frac{1}{2}% \tau^{-1}g(t)^{-2}\mathbb{E}_{p_{D}}\left[\left\\|\sqrt{\tau}g(t)\bar{u}_{t}% \right\\|^{2}\right]$
	$\displaystyle=$	$\displaystyle-\frac{d}{2}\log 2\pi-\frac{d}{2}\log\tau g(t)^{2}-\frac{d}{2}$

and 和

$\displaystyle\mathbb{E}_{p_{D}}\left[\log p_{E}(z_{t-\tau}\|z_{t},x)\right]$	$\displaystyle=$	$\displaystyle-\frac{d}{2}\log 2\pi-\frac{d}{2}\log\tau g(t)^{2}$	(13)
		$\displaystyle-\frac{1}{2}\tau^{-1}g(t)^{-2}\mathbb{E}_{p_{D}}\left[\left\\|z_{t% -\tau}-z_{t}+\left(f(z_{t},t)-g(t)^{2}s\left(z_{t},x\right)\right)\tau\right\\|% ^{2}\right]$
	$\displaystyle=$	$\displaystyle-\frac{d}{2}\log 2\pi-\frac{d}{2}\log\tau g(t)^{2}$
		$\displaystyle-\frac{1}{2}\tau^{-1}g(t)^{-2}\mathbb{E}_{p_{D}}\left[\left\\|z_{t% -\tau}-z_{t}+f(z_{t},t)\tau\right\\|^{2}\right]$
		$\displaystyle-\frac{1}{2}\tau^{-1}g(t)^{-2}\mathbb{E}_{p_{D}}\left[\left\\|g(t)% ^{2}s\left(z_{t},x\right)\tau\right\\|^{2}\right]$
		$\displaystyle+\tau^{-1}g(t)^{-2}\mathbb{E}_{p_{D}}\left[\left(z_{t-\tau}-z_{t}% +f(z_{t},t)\tau\right)^{\top}g(t)^{2}s\left(z_{t},x\right)\tau\right]$
	$\displaystyle=$	$\displaystyle-\frac{d}{2}\log 2\pi-\frac{d}{2}\log\tau g(t)^{2}$
		$\displaystyle-\frac{1}{2}\tau^{-1}g(t)^{-2}\mathbb{E}_{p_{D}}\left[\left\\|g(t)% ^{2}\nabla\log p_{D}(z_{t})\tau+\sqrt{\tau}g(t)\bar{u}_{t}\right\\|^{2}\right]$
		$\displaystyle-\frac{1}{2}\tau g(t)^{2}\mathbb{E}_{p_{D}}\left[\left\\|s\left(z_% {t},x\right)\right\\|^{2}\right]$
		$\displaystyle+\mathbb{E}_{p_{D}}\left[\left(z_{t-\tau}-z_{t}+f(z_{t},t)\tau% \right)^{\top}s\left(z_{t},x\right)\right]$
	$\displaystyle\overset{(i)}{=}$	$\displaystyle-\frac{d}{2}\log 2\pi-\frac{d}{2}\log\tau g(t)^{2}-\frac{d}{2}$
		$\displaystyle-\frac{1}{2}\tau g(t)^{2}\mathbb{E}_{p_{D}}\left[\left\\|\nabla% \log p_{D}(z_{t})\right\\|^{2}\right]$
		$\displaystyle-\frac{1}{2}\tau g(t)^{2}\mathbb{E}_{p_{D}}\left[\left\\|s\left(z_% {t},x\right)\right\\|^{2}\right]$
		$\displaystyle+\mathbb{E}_{p_{D}}\left[\left(z_{t-\tau}-z_{t}+f(z_{t},t)\tau% \right)^{\top}s\left(z_{t},x\right)\right],$

其中， $(i) (i)( italic_i )$ 源于 $\bar{u}_{t}over¯ start_ARG italic_u end_ARG start_POSTSUBSCRIPT italic_t end_POSTSUBSCRIPT$ 和 $z_{t}italic_z start_POSTSUBSCRIPT italic_t end_POSTSUBSCRIPT$ 之间的独立性。

利用 (9) 和一阶泰勒展开式，我们得出

$\displaystyle z_{t-\tau}-z_{t}+f(z_{t},t)\tau$	$\displaystyle=$	$\displaystyle z_{t-\tau}-\left(z_{t-\tau}+f(z_{t-\tau},t-\tau)\tau+\sqrt{\tau}% g(t-\tau)u_{t-\tau}\right)$
		$\displaystyle+f\left(z_{t-\tau}+f(z_{t-\tau},t)\tau+\sqrt{\tau}g(t-\tau)u_{t-% \tau},t\right)\tau$
	$\displaystyle=$	$\displaystyle-f(z_{t-\tau},t-\tau)\tau-\sqrt{\tau}g(t-\tau)u_{t-\tau}$
		$\displaystyle+\tau f(z_{t-\tau},t-\tau)$
		$\displaystyle+\tau\frac{\partial f(z_{t-\tau},t-\tau)}{\partial z_{t-\tau}}% \left(z_{t}-z_{t-\tau}\right)$
		$\displaystyle+\tau^{2}\frac{\partial f(z_{t-\tau},t-\tau)}{\partial t}$
		$\displaystyle+\tau\cdot O\left(\left\\|z_{t}-z_{t-\tau}\right\\|^{2}+\tau^{2}\right)$
	$\displaystyle=$	$\displaystyle-\sqrt{\tau}g(t-\tau)u_{t-\tau}$
		$\displaystyle+\tau\frac{\partial f(z_{t-\tau},t-\tau)}{\partial z_{t-\tau}}% \left(f(z_{t-\tau},t-\tau)\tau+\sqrt{\tau}g(t-\tau)u_{t-\tau}\right)$
		$\displaystyle+\tau^{2}\frac{\partial f(z_{t-\tau},t-\tau)}{\partial t}$
		$\displaystyle+\tau\cdot O\left(\left\\|f(z_{t-\tau},t-\tau)\tau+\sqrt{\tau}g(t-% \tau)u_{t-\tau}\right\\|^{2}+\tau^{2}\right)$
	$\displaystyle=$	$\displaystyle-\sqrt{\tau}g(t-\tau)u_{t-\tau}+O(\tau^{2})$

and 和

$\displaystyle s\left(z_{t},x,t\right)$	$\displaystyle=$	$\displaystyle s(z_{t-\tau},x,t-\tau)+\frac{\partial s(z_{t-\tau},x,t-\tau)}{% \partial z_{t-\tau}}\left(z_{t}-z_{t-\tau}\right)+\frac{\partial s(z_{t-\tau},% x,t-\tau)}{\partial t}\tau$
	$\displaystyle=$	$\displaystyle s(z_{t-\tau},x,t-\tau)$
		$\displaystyle+\frac{\partial s(z_{t-\tau},x,t-\tau)}{\partial z_{t-\tau}}\left% (f(z_{t-\tau},t-\tau)\tau+\sqrt{\tau}g(t-\tau)u_{t-\tau}\right)$
		$\displaystyle+\frac{\partial s(z_{t-\tau},x,t-\tau)}{\partial t}\tau$
	$\displaystyle=$	$\displaystyle s(z_{t-\tau},x,t-\tau)+\sqrt{\tau}\frac{\partial s(z_{t-\tau},x,% t-\tau)}{\partial z_{t-\tau}}g(t-\tau)u_{t-\tau}+O(\tau).$

将上述两个等式合并，我们得到

$\displaystyle\mathbb{E}_{p_{D}}\left[\left(z_{t-\tau}-z_{t}+f(z_{t},t)\tau% \right)^{\top}s\left(z_{t},x,t\right)\right]$	$\displaystyle=$	$\displaystyle\mathbb{E}_{p_{D}}\left[-\sqrt{\tau}g(t-\tau)u_{t-\tau}^{\top}s(z% _{t-\tau},x,t-\tau)\right]$	(14)
		$\displaystyle-\tau g(t-\tau)^{2}\mathbb{E}_{p_{D}}\left[u_{t-\tau}^{\top}\frac% {\partial s(z_{t-\tau},x,t-\tau)}{\partial z_{t-\tau}}u_{t-\tau}\right]$
		$\displaystyle+o(\tau)$
	$\displaystyle\overset{(ii)}{=}$	$\displaystyle-\tau g(t-\tau)^{2}\mathbb{E}_{p_{D}}\left[\mathrm{tr}\left(\frac% {\partial s(z_{t-\tau},x,t-\tau)}{\partial z_{t-\tau}}\right)\right]$
		$\displaystyle+o(\tau),$

其中 ( $i i iiitalic_i italic_i$ )源于 $u_{t-\tau}italic_u start_POSTSUBSCRIPT italic_t - italic_τ end_POSTSUBSCRIPT$ 在解码过程中与 $z_{t-\tau}italic_z start_POSTSUBSCRIPT italic_t - italic_τ end_POSTSUBSCRIPT$ 和 $x xitalic_x$ 无关这一事实。考虑到（14 ）、（12 ）和（13 ），我们得出以下结果：

$\displaystyle\Delta_{t}$	$\displaystyle\triangleq$	$\displaystyle\mathbb{E}_{p_{D}}\left[\log p_{D}(z_{t-\tau}\|z_{t})\right]-% \mathbb{E}_{p_{D}}\left[\log p_{E}(z_{t-\tau}\|z_{t},x)\right]$
	$\displaystyle=$	$\displaystyle\frac{1}{2}\tau g(t)^{2}\mathbb{E}_{p_{D}}\left[\left\\|\nabla\log p% _{D}(z_{t})\right\\|^{2}\right]$
		$\displaystyle+\frac{1}{2}\tau g(t)^{2}\mathbb{E}_{p_{D}}\left[\left\\|s\left(z_% {t},x,t\right)\right\\|^{2}\right]$
		$\displaystyle+\tau g(t-\tau)^{2}\mathbb{E}_{p_{D}}\left[\mathrm{tr}\left(\frac% {\partial s(z_{t-\tau},x,t-\tau)}{\partial z_{t-\tau}}\right)\right]+o(\tau).$

让 $\tau=T/Litalic_τ = italic_T / italic_L$ ，其中 $L Litalic_L$ 是一个大数，我们有

$\displaystyle\mathbb{E}_{p_{D}}\left[\log\frac{p_{D}(x,z_{0},z_{\tau},\ldots,z% _{T})}{p_{E}(x,z_{0},z_{\tau},\ldots,z_{T})}\right]$	$\displaystyle=$	$\displaystyle\mathbb{E}_{p_{D}}\left[\log\frac{p_{D}(x\|z_{0})p_{D}(z_{T})\prod% _{l=1}^{L}p_{D}\left(z_{(l-1)\tau}\|z_{l\tau}\right)}{\pi(x)p_{E}(z_{T})\prod_{% l=1}^{L}p_{E}\left(z_{(l-1)\tau}\|z_{l\tau},x\right)}\right]$
	$\displaystyle=$	$\displaystyle\mathbb{E}_{p_{D}}\left[\log\frac{p_{D}(x\|z_{0})}{Z^{-1}\exp\left% (-U(x)\right)}\right]+\sum_{l=1}^{L}\Delta_{l\tau}$
	$\displaystyle=$	$\displaystyle\mathbb{E}_{p_{D}}\left[\log p_{D}(x\|z_{0})+U(x)\right]+\log Z+% \sum_{l=1}^{L}\Delta_{l\tau}$

and 和

$\displaystyle\mathbb{E}_{p_{D}}\left[\log\frac{p_{D}(x,z_{[\cdot]})}{p_{E}(x,z% _{[\cdot]})}\right]$	$\displaystyle=$	$\displaystyle\lim_{L\to\infty}\mathbb{E}_{p_{D}}\left[\log\frac{p_{D}(x,z_{0},% z_{\tau},\ldots,z_{T})}{p_{E}(x,z_{0},z_{\tau},\ldots,z_{T})}\right]$
	$\displaystyle=$	$\displaystyle\mathbb{E}_{p_{D}}\left[\log p_{D}(x\|z_{0})+U(x)\right]$
		$\displaystyle+\int\frac{g(t)^{2}}{2}\mathbb{E}_{p_{D}}\left[\left\\|s\left(z_{t% },x,t\right)\right\\|^{2}+2\mathrm{tr}\left(\frac{\partial s(z_{t},x,t)}{% \partial z_{t}}\right)+\left\\|\nabla\log p_{D}(z_{t})\right\\|^{2}\right]% \mathrm{d}t$
		$\displaystyle+\log Z.$

考虑到分式积分，公式（6 ）中的 $D_{KL}(p_{D}||p_{E})italic_D start_POSTSUBSCRIPT italic_K italic_L end_POSTSUBSCRIPT ( italic_p start_POSTSUBSCRIPT italic_D end_POSTSUBSCRIPT | | italic_p start_POSTSUBSCRIPT italic_E end_POSTSUBSCRIPT )$ 有如下等价表达式

$\displaystyle\mathbb{E}_{p_{D}}\left[s\left(z_{t},x\right)^{\top}\nabla_{z_{t}% }\log p_{D}(z_{t}\|z_{0})\|x,z_{0}\right]$	$\displaystyle=$	$\displaystyle\int p_{D}(z_{t}\|z_{0})s\left(z_{t},x\right)^{\top}\nabla_{z_{t}}% \log p_{D}(z_{t}\|z_{0})\mathrm{d}z_{t}$
	$\displaystyle=$	$\displaystyle\int s\left(z_{t},x\right)^{\top}\nabla_{z_{t}}p_{D}(z_{t}\|z_{0})% \mathrm{d}z_{t}$
	$\displaystyle=$	$\displaystyle\int\mathrm{div}_{z_{t}}\left(p_{D}(z_{t}\|z_{0})s\left(z_{t},x% \right)\right)\mathrm{d}z_{t}$
		$\displaystyle-\int p_{D}(z_{t}\|z_{0})\mathrm{tr}\left(\frac{\partial s(z_{t},x% )}{\partial z_{t}}\right)\mathrm{d}z_{t}$
	$\displaystyle=$	$\displaystyle-\mathbb{E}_{p_{D}}\left[\mathrm{tr}\left(\frac{\partial s(z_{t},% x)}{\partial z_{t}}\right)\|z_{0}\right]$
$\displaystyle\Rightarrow\mathbb{E}_{p_{D}}\left[s\left(z_{t},x\right)^{\top}% \nabla_{z_{t}}\log p_{D}(z_{t}\|z_{0})\right]$	$\displaystyle=$	$\displaystyle-\mathbb{E}_{p_{D}}\left[\mathrm{tr}\left(\frac{\partial s(z_{t},% x)}{\partial z_{t}}\right)\right]$

将上式代入公式（6 ），我们得出

$\displaystyle D_{KL}\left(p_{D}(x,z_{[\cdot]})\|\|p_{E}(x,z_{[\cdot]})\right)$	$\displaystyle=$	$\displaystyle\mathbb{E}_{p_{D}}\left[\log\frac{p_{D}(x\|z_{0};\phi)}{\pi(x)}\right]$
		$\displaystyle+\mathbb{E}_{p_{D}}\left[\frac{g^{2}(t)}{2}\left(\left\\|\nabla% \log p_{D}(z_{t})\right\\|^{2}+\left\\|s\left(z_{t},x,t\|\theta\right)\right\\|^{2% }\right.\right.$
		$\displaystyle\quad\quad\quad\quad\ \quad\quad\left.\left.-2s\left(z_{t},x,t\|% \theta\right)^{\top}\nabla\log p_{D}(z_{t}\|z_{0})\right)\right].$

附录 C实施解码器

1 算法概述了基于 GHD 的解码器的详细实现过程。在该算法中，我们首先使用随机变量 $\zetaitalic_ζ$ 随机生成一个样本 $y yitalic_y$ （请参阅算法的第 1 行）。随后，我们使用随机速度 $v_{1},\ldots,v_{K}italic_v start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT , … , italic_v start_POSTSUBSCRIPT italic_K end_POSTSUBSCRIPT$ 和 GHD 对样本进行迭代更新（参见第 5 行）。最后，我们利用可训练步长的离散布朗动力学来设计 $x xitalic_x$ 的解码器密度（参见第 9 行）。这里， $\epsilon(l;\phi)italic_ϵ ( italic_l ; italic_ϕ )$ 、 $Q_{v}italic_Q start_POSTSUBSCRIPT italic_v end_POSTSUBSCRIPT$ 、 $Q_{y}italic_Q start_POSTSUBSCRIPT italic_y end_POSTSUBSCRIPT$ 、 $T_{v}italic_T start_POSTSUBSCRIPT italic_v end_POSTSUBSCRIPT$ 和 $T_{y}italic_T start_POSTSUBSCRIPT italic_y end_POSTSUBSCRIPT$ 都是由三层 MLP 组成的神经网络。 $\epsilon_{0}italic_ϵ start_POSTSUBSCRIPT 0 end_POSTSUBSCRIPT$ 是一个超参数，我们的数值实验表明，将 $\epsilon_{0}italic_ϵ start_POSTSUBSCRIPT 0 end_POSTSUBSCRIPT$ 设置为较小的正值可以提高算法的稳定性。

算法 1 基于 GHD 的解码器

z_{0}=(\zeta,v_{1},\ldots,v_{K})italic_z start_POSTSUBSCRIPT 0 end_POSTSUBSCRIPT = ( italic_ζ , italic_v start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT , … , italic_v start_POSTSUBSCRIPT italic_K end_POSTSUBSCRIPT )

取自标准高斯分布，解码器参数为

\phiitalic_ϕ

y:=a(\zeta;\phi)italic_y := italic_a ( italic_ζ ; italic_ϕ )

3:for

k=1,\ldots,K

4: for

j=1,\ldots,J

5: 让

l:=\mathrm{leap\ frog\ step\ of\ GHD}italic_l := roman_leap roman_frog roman_step roman_of roman_GHD

6: 更新数据

(y,v_{i})( italic_y , italic_v start_POSTSUBSCRIPT italic_i end_POSTSUBSCRIPT )

$\displaystyle v_{k}$	$\displaystyle:=$	$\displaystyle v_{k}-\frac{\epsilon(l;\phi)}{2}\left(\nabla U(y)\odot e^{\frac{% \epsilon_{0}}{2}Q_{v}(y,\nabla U(y),l;\phi)}+T_{v}(y,\nabla U(y),l;\phi)\right)$
$\displaystyle y$	$\displaystyle:=$	$\displaystyle y+\epsilon(l;\phi)\left(v_{k}\odot e^{\epsilon_{0}Q_{y}(v_{k},l;% \phi)}+T_{y}(v_{k},l;\phi)\right)$
$\displaystyle v_{k}$	$\displaystyle:=$	$\displaystyle v_{k}-\frac{\epsilon(l;\phi)}{2}\left(\nabla U(y)\odot e^{\frac{% \epsilon_{0}}{2}Q_{v}(y,\nabla U(y),l;\phi)}+T_{v}(y,\nabla U(y),l;\phi)\right)$

7: end for

8: 让

v_{k}:=-v_{k}italic_v start_POSTSUBSCRIPT italic_k end_POSTSUBSCRIPT := - italic_v start_POSTSUBSCRIPT italic_k end_POSTSUBSCRIPT

9:end for

10:Let

\mu=y-e^{\epsilon_{0}\eta(y;\phi^{\prime})}\nabla U(y)

and

\Sigma=2e^{\epsilon_{0}\eta(y;\phi^{\prime})}I

11: 返回

x\sim\mathcal{N}(\mu,\Sigma)italic_x ∼ caligraphic_N ( italic_μ , roman_Σ )

。

附录 D精确时间积分的重要性权重

从 (7) 中可以看出，在蒙特卡罗估计右侧积分时，时间建议 $p (t) p(t)italic_p ( italic_t )$ 的理想选择为

p(t)\propto g^{2}(t)\mathbb{E}_{p(\epsilon)p_{D}(x,z_{t})}\left[\mathcal{L}_{t% }(x,z_{t},\epsilon;\theta)\right].

在实验中，我们使用 [49] 中介绍的策略来近似理想提案。实施细节如下：我们维护一个历史缓冲区，其中包含来自最近 $303030$ 迷你批次的 $\mathcal{L}_{t}caligraphic_L start_POSTSUBSCRIPT italic_t end_POSTSUBSCRIPT$ 值。在每次迭代中，缓冲区都会使用时间间隔 $[0, T] [0,T][ 0 , italic_T ]$ 内具有 $100100100$ bins 的直方图，提供作为 $t titalic_t$ 函数的 $\mathcal{L}_{t}caligraphic_L start_POSTSUBSCRIPT italic_t end_POSTSUBSCRIPT$ 预期值的估计值。随后，我们将获得每次迭代的理想 $p (t) p(t)italic_p ( italic_t )$ 的估计值。最初，在训练的早期阶段， $p (t) p(t)italic_p ( italic_t )$ 被设置为均匀分布，直到 $B_{\mathrm{buffer}}italic_B start_POSTSUBSCRIPT roman_buffer end_POSTSUBSCRIPT$ 小批量数据积累完毕。

附录 E实验细节

EDG 在实验中，我们利用 [37] 中提出的子 VP SDE 来模拟 $z_{t}italic_z start_POSTSUBSCRIPT italic_t end_POSTSUBSCRIPT$ 在 (2) 中的扩散过程，其定义为

\mathrm{d}z_{t}=-\frac{1}{2}\beta(t)z_{t}\mathrm{d}t+\sqrt{\beta(t)\left(1-e^{% -2\int_{0}^{t}\beta(s)\mathrm{d}s}\right)}\mathrm{d}W_{t}

与 $T = 1 T=1italic_T = 1$ 。这里， $\beta(t)=\beta_{\min}+t\left(\beta_{\max}-\beta_{\min}\right)italic_β ( italic_t ) = italic_β start_POSTSUBSCRIPT roman_min end_POSTSUBSCRIPT + italic_t ( italic_β start_POSTSUBSCRIPT roman_max end_POSTSUBSCRIPT - italic_β start_POSTSUBSCRIPT roman_min end_POSTSUBSCRIPT )$ ，我们设置 $\beta_{\min}=0.1italic_β start_POSTSUBSCRIPT roman_min end_POSTSUBSCRIPT = 0.1$ 和 $\beta_{\min}=20italic_β start_POSTSUBSCRIPT roman_min end_POSTSUBSCRIPT = 20$ 进行实验。初始状态 $z_{0}italic_z start_POSTSUBSCRIPT 0 end_POSTSUBSCRIPT$ 遵循标准高斯分布。算法 1 的第 1 行实现为

y:=\mu_{0}(\zeta_{0};\phi)+\Sigma_{0}(\zeta_{0};\phi)\zeta_{1},

其中 $\zeta=(\zeta_{0},\zeta_{1})italic_ζ = ( italic_ζ start_POSTSUBSCRIPT 0 end_POSTSUBSCRIPT , italic_ζ start_POSTSUBSCRIPT 1 end_POSTSUBSCRIPT )$ 和 $\mu_{0}(\zeta_{0};\phi),\Sigma_{0}(\zeta_{0};\phi)italic_μ start_POSTSUBSCRIPT 0 end_POSTSUBSCRIPT ( italic_ζ start_POSTSUBSCRIPT 0 end_POSTSUBSCRIPT ; italic_ϕ ) , roman_Σ start_POSTSUBSCRIPT 0 end_POSTSUBSCRIPT ( italic_ζ start_POSTSUBSCRIPT 0 end_POSTSUBSCRIPT ; italic_ϕ )$ 由 MLP 模拟。在解码器中加入 GHD 时，我们设置了 $K = 5 K=5italic_K = 5$ 和 $J = 5 J=5italic_J = 5$ 。

基准对于 V-HMC，我们在包含 1,000 步的预热阶段后生成样本，每一步都计算 Metropolis-Hastings 接受概率，以确保收敛。对于 L2HMC，我们使用三层全连接网络，将跃迁步长设为 10。对于不同的任务，我们自适应地选择不同的步长。对于 PIS，我们直接在任务中使用公开可用的代码。关于 BG，RealNVP 架构由 3 个仿射块组成，其中缩放和平移函数由三层全连接网络建模，每个网络有 256 个单元和 ReLU 激活函数。

二维能源任务的模型结构

解码过程	编码过程
网络 $a(\zeta;\phi)italic_a ( italic_ζ ; italic_ϕ )$ 。:	得分网络：
fc $10\times 32$ , ReLU, $2\times$ (fc $32\times 32$ , ReLU), fc $32\times 2$ .	fc $25\times 16$ , ReLU,
GHD：	fc $16\times 16$ , ReLU,
$Q_{v},T_{v}$ :	fc $16\times 22$ .
fc $5\times 105 × 10$ , Tanh, fc $10\times 1010 × 10$ , Tanh, fc $10\times 210 × 2$ .
$Q_{x},T_{x}$ :
fc $3\times 103 × 10$ , ReLU, fc $10\times 1010 × 10$ , ReLU, fc $10\times 210 × 2$ .
最终网络 $N(\mu,\Sigma)italic_N ( italic_μ , roman_Σ )$ :
fc $2\times 10$ , ReLU, fc $10\times 10$ , ReLU, fc $10\times 2$ .

二维能量函数我们使用以下模型架构为二维能量任务生成样本。fc $n nitalic_n$ "表示具有 $n nitalic_n$ 神经元的全连接层。

图 2 中 Mog2、Mog2(i)、Mog6 和 Mog9 的参考样本精确地从目标分布中提取，因为这些分布是高斯分布的混合物。Ring 和 Ring5 的参考样本使用 Metropolis-Hastings 算法生成，并进行了大量迭代。分别使用方差为 9 和 25 的高斯分布作为提议分布。在 V-HMC 中，我们使用了总长度为 2,000 步的 HMC 运行，从标准正态分布开始。前 1,000 步被指定为预演步骤，随后的 1,000 步用于生成样本。为创建可视化表示，该程序独立执行 500 次。

给定参考样本 $X=\{x_{i}\}_{i=1}^{m}italic_X = { italic_x start_POSTSUBSCRIPT italic_i end_POSTSUBSCRIPT } start_POSTSUBSCRIPT italic_i = 1 end_POSTSUBSCRIPT start_POSTSUPERSCRIPT italic_m end_POSTSUPERSCRIPT$ 和生成样本 $Y=\{y_{i}\}_{i=1}^{m}italic_Y = { italic_y start_POSTSUBSCRIPT italic_i end_POSTSUBSCRIPT } start_POSTSUBSCRIPT italic_i = 1 end_POSTSUBSCRIPT start_POSTSUPERSCRIPT italic_m end_POSTSUPERSCRIPT$ ，最大均值差异 (MMD) [56] 测量 $X Xitalic_X$ 和 $Y Yitalic_Y$ 分布之间的差异，如下所示：

\mathrm{MMD}^{2}(X,Y)=\frac{1}{m(m-1)}\sum_{i}\sum_{j\neq i}k(x_{i},x_{j})-% \frac{2}{m^{2}}\sum_{i}\sum_{j}k(x_{i},y_{j})+\frac{1}{m(m-1)}\sum_{i}\sum_{j% \neq i}k(y_{i},y_{j})

其中 $k(\cdot,\cdot)italic_k ( ⋅ , ⋅ )$ 表示计算内积的核函数。表 1 中使用的是 RBF 核，带宽设置为相应样本间距离的中位数。我们对每个模型执行 20 个循环，以获得 5000 个所需样本，然后评估 MMD 的平均值与 5000 个参考数据的关系。标准偏差都很小，因此我们没有在表中报告。

贝叶斯逻辑回归的模型结构

解码过程	编码过程
网络 $a(\zeta;\phi)italic_a ( italic_ζ ; italic_ϕ )$ 。:	得分网络：
fc $d\times 256$ , ReLU, $2\times$ (fc $256\times 256$ , ReLU), fc $256\times 256$ .	fc $(12d+1)\times 256$ , ReLU,
GHD：	fc $256\times 256$ , ReLU,
$Q_{v},T_{v}$ :	fc $256\times 11d$ .
fc $(2d+1)\times 256( 2 italic_d + 1 ) × 256$ , Tanh, fc $256\times 256256 × 256$ , Tanh, fc $256\times d256 × italic_d$ .
$Q_{x},T_{x}$ :
fc $(d+1)\times 256( italic_d + 1 ) × 256$ , ReLU, fc $256\times 256256 × 256$ , ReLU, fc $256\times d256 × italic_d$ .
最终网络 $N(\mu,\Sigma)italic_N ( italic_μ , roman_Σ )$ :
fc $11d\times 256$ , ReLU, fc $256\times 256$ , ReLU, fc $256\times d$ .

贝叶斯逻辑回归在所有实验中，我们采用相同的数据分区，数据集按 4:1 的比例分为训练集和测试集。在训练之前，我们对所有数据集进行归一化处理，使其均值为零，方差为单位。对于 $d ditalic_d$ 维特征，参与 EDG 的神经网络架构如下：

在覆盖类型任务中， $x=(\alpha,w,b)italic_x = ( italic_α , italic_w , italic_b )$ 的先验分布为 $p(x)=p(\alpha)p(w,b|\alpha)italic_p ( italic_x ) = italic_p ( italic_α ) italic_p ( italic_w , italic_b | italic_α )$ ，其中 $p(\alpha)=\mathrm{Gamma}(\alpha;1,0.01)italic_p ( italic_α ) = roman_Gamma ( italic_α ; 1 , 0.01 )$ 和 $p(w,b|\alpha)=\mathcal{N}(w,b;0,\alpha^{-1})italic_p ( italic_w , italic_b | italic_α ) = caligraphic_N ( italic_w , italic_b ; 0 , italic_α start_POSTSUPERSCRIPT - 1 end_POSTSUPERSCRIPT )$ .

伊辛模型模型结构如下所示，它与 NeuralRG [17] 中的模型结构相似，没有堆叠偏射物形成可逆变换。它保留了多尺度纠缠重正化解析结构，而我们只用一个块就可以直接更新变量的整个维度。

伊辛模型的模型结构

解码过程	编码过程
网络 $a(\zeta;\phi)italic_a ( italic_ζ ; italic_ϕ )$ 。:	得分网络：
[17]	分级网络。
GHD：	输入： $z_{t}italic_z start_POSTSUBSCRIPT italic_t end_POSTSUBSCRIPT$ , $x xitalic_x$ , $t titalic_t$ , $T Titalic_T$
$Q_{v},T_{v}$ :
Conv2d $2\times 102 × 10$ , BatchNorm2d, ReLU, Conv2d $10\times 110 × 1$ .
$Q_{x},T_{x}$ :
Conv2d $1\times 101 × 10$ , BatchNorm2d, ReLU, Conv2d $10\times 110 × 1$ .
最终网络 $N(\mu,\Sigma)italic_N ( italic_μ , roman_Σ )$ :
fc $d\times 10$ , ReLU, fc $10\times 10$ , ReLU, fc $10\times d$ .

关于 $p_{E}(z_{0}|x,\theta^{*})italic_p start_POSTSUBSCRIPT italic_E end_POSTSUBSCRIPT ( italic_z start_POSTSUBSCRIPT 0 end_POSTSUBSCRIPT | italic_x , italic_θ start_POSTSUPERSCRIPT ∗ end_POSTSUPERSCRIPT )$ ，我们采用了 scipy.integrate.solve_ivp 中实现的 RK45 ODE 求解器，其中的参数设置与 [37] 中的参数设置相同。归一化常数 $\log Zroman_log italic_Z$ 根据第 3.3 节近似计算。

附录 F消融研究

为了阐明 EDG 中每个组件的功能，我们在二维能量函数的采样任务中比较了以下模型：具有高斯解码器和编码器的 VAE，其中均值和对角协方差矩阵均由 MLP 参数化；具有基于 GHD 的解码器和基于 MLP 的编码器的 VAE；不含 GHD 的 EDG，其中解码器由 MLP 建模；以及完整的 EDG 模型。对于不含 GHD 的 VAE，网络由 3 层 MLP 组成，每层有 32 个单元和 ReLU 激活函数。从 $z\sim N(0,I_{d}),d=10italic_z ∼ italic_N ( 0 , italic_I start_POSTSUBSCRIPT italic_d end_POSTSUBSCRIPT ) , italic_d = 10$ 开始，解码器生成样本 $x\sim p_{D}(x;\mu(z;\phi),\Sigma(z;\phi))italic_x ∼ italic_p start_POSTSUBSCRIPT italic_D end_POSTSUBSCRIPT ( italic_x ; italic_μ ( italic_z ; italic_ϕ ) , roman_Σ ( italic_z ; italic_ϕ ) )$ 。编码器作为一个独立的网络，遵循 $p_{E}(z|x)=N(z;\mu(x;\theta),\Sigma(x;\theta))italic_p start_POSTSUBSCRIPT italic_E end_POSTSUBSCRIPT ( italic_z | italic_x ) = italic_N ( italic_z ; italic_μ ( italic_x ; italic_θ ) , roman_Σ ( italic_x ; italic_θ ) )$ 。目标函数是 $z zitalic_z$ 和 $x xitalic_x$ 的联合分布的 KL 发散，即

D_{\mathrm{KL}}(p_{D}(z)p_{D}(x|z;\phi)||\pi(x)p_{E}(z|x;\theta).

对于有 GHD 的 VAE，解码器与算法 1 中的结构一致，编码器也与上文所述相同。对于不含 GHD 的 EDG，我们省略了跃迁部分（参见算法中的第 2-8 行），解码器由网络 $a(\zeta;\phi)italic_a ( italic_ζ ; italic_ϕ )$ 和最后的高斯部分 $\mathcal{N}(\mu,\Sigma)caligraphic_N ( italic_μ , roman_Σ )$ 组成（参见算法中的第 1、9 行）。

4图中显示了样本的直方图，以供目测，表中汇总了抽样误差。5。显然，采用基于 GHD 解码器的 EDG 优于其他方法，这证明了模型中每个组件的有效性。

表 5：每个生成器生成的 5,000 个样本与参考样本之间的最大平均差（MMD）。

	Mog2	Mog2(i)	Mog6	莫格9	环	环5
VAE 无 GHD	$1.86$	$1.62$	$2.57$	$2.10$	$0.12$	$0.23$
VAE w/ GHD	$\mathbf{0.01}$	$2.43$	$0.15$	$0.59$	$1.68$	$0.63$
EDG 不含 GHD	$0.06$	$1.01$	$0.04$	$0.05$	$0.02$	$0.04$
EDG	$\mathbf{0.01}$	$\mathbf{0.50}$	$\mathbf{0.01}$	$\mathbf{0.02}$	$\mathbf{0.01}$	$0.02$

参考资料

杨等人[2019］
Y. I.Yang，Q. Shao，J. Zhang，L. Yang，Y. Q.Gao，分子动力学中的增强采样，化学物理学报 151 (2019)。
赫宁等人[2022]
J. Hénin，T. Lelièvre，M. R.Shirts，O. Valsson，L. Delemotte，分子动力学模拟的增强采样方法，arXiv preprint arXiv:2202.04164 (2022)。
麦克劳林和亚当斯[2014]
D. Maclaurin，R. P.Adams, Firefly monte carlo: Exact mcmc with subsets of data, arXiv preprint arXiv:1403.5693 (2014).
Glynn 和 Rhee [2014]
P. W. Glynn, C.-h.Glynn, C.-h.Rhee，马尔可夫链均衡期望的精确估计，Journal of Applied Probability 51 (2014) 377-389.
Binder 和 Luijten [2001]
K. Binder, E. Luijten, Monte carlo tests of renormalization-group predictions for critical phenomena in ising models, Physics Reports 344 (2001) 179-253.
沃克等人[2020］
N. Walker, K.-M.Tam, M. Jarrell, Deep learning on the 2-dimensional ising model to extract the crossover region with a variational autoencoder, Scientific reports 10 (2020) 13047.
黑斯廷斯[1970］
W. K.Hastings, Monte carlo sampling methods using markov chains and their applications, Biometrika (1970).Biometrika (1970).
尼尔等人[2011]
R. M. Neal, et al.Neal, et al., Mcmc using hamiltonian dynamics, Handbook of markov chain monte carlo 2 (2011) 2. R. M. Neal, et al.
荒木和池田[2013]
T. Araki, K. Ikeda, 辅助变量法的自适应马尔可夫链蒙特卡罗及其在并行调质中的应用，Neural Networks 43 (2013) 33-40。
荒木等人[2015］
T. Araki，K. Ikeda，S. Akaho，用于贝叶斯变量选择的高效抽样算法与适应性，神经网络 61 (2015) 22-31。
Cheng et al.
X. Cheng，N. S.Chatterji, P. L.巴特利特、M. I.乔丹，欠阻尼朗文 mcmc：in：学习理论会议，PMLR，2018，第 300-323 页。
Song 等人[2017]
J. Song, S. Zhao, S. Ermon, A-nice-mc：针对 mcmc 的对抗训练，Advances in Neural Information Processing Systems 30 (2017)。
利维等人[2017]
D. Levy, M. D.Hoffman, J. Sohl-Dickstein, Generalizing hamiltonian monte carlo with neural networks, arXiv preprint arXiv:1711.09268 (2017).
加利亚诺等人[2024］
L. Galliano, R. Rende, D. Coslovich, Policy-guided monte carlo on general state spaces：应用于玻璃态混合物，《化学物理学报》第 161 期（2024 年）。
刘和孙[2022]
S. Liu, S. Sun, Adversarially training mcmc with non-volume-preserving flows, Entropy 24 (2022) 415.
阿斯加尔等人 [2024]
S. Asghar, Q.-X.Pei, G. Volpe, R. Ni, Efficient rare event sampling with unsupervised normalising flows, arXiv preprint arXiv:2401.01072 (2024).
李和王[2018]
S.-H. Li, L. Wang, Neural network renormalization group, S.-H.Li, L. Wang, Neural network renormalization group, Physical review letters 121 (2018) 260601.
诺埃等人[2019］
F. Noé, S. Olsson, J. Köhler, H. Wu, Boltzmann generators：用深度学习采样多体系统的平衡态，Science 365 (2019) eaaw1147.
科勒等人 [2020]
J. Köhler, L. Klein, F. Noé, Equivariant flows: exact likelihood generative learning for symmetric densities, in：国际机器学习会议，PMLR，2020，第 5361-5370 页。
博伊达等人[2021］
D. Boyda，G. Kanwar，S. Racanière，D. J.Rezende，M. S.Albergo, K. Cranmer, D. C.哈克特、P. E.Shanahan, Sampling using su (n) gauge equivariant flows, Physical Review D 103 (2021) 074504.
Vaitl 等人[2022]
L. Vaitl，K. A.Nicoli, S. Nakajima, P. Kessel, Gradients should stay on path: better estimators of the reverse-and forward kl divergence for normalizing flows, Machine Learning：科学与技术 3 (2022) 045006。
阿尔贝戈等人[2022]
M. S.Albergo，D. Boyda，K. Cranmer，D. C.Hackett，G. Kanwar，S. Racanière，D. J.Rezende，F. Romero-López，P. E.沙纳汉，J. M.Urban，临界时晶格施文格模型中基于流的采样，Physical Review D 106 (2022) 014514。
格德斯等人[2022]
M. Gerdes，P. de Haan，C. Rainone，R. Bondesan，M. C.Learning lattice quantum field theory with equivariant continuous flows, arXiv preprint arXiv:2207.00283 (2022).
费拉多斯[2022］
L.Felardos, Data-free Generation of Molecular Configurations with Normalizing Flows, Ph.D. thesis, Université Grenoble Alpes, 2022.
van Leeuwen 等人[2023]
S. van Leeuwen, A. P.d. A. Ortíz, M. Dijkstra, A Boltzmann generator for the isobaric-isothermal ensemble, arXiv preprint arXiv:2305.08483 (2023). .
Plainer 等人[2023]
M. Plainer, H. Stark, C. Bunne, S. Günnemann, Transition path sampling with boltzmann generator-based mcmc moves, in：NeurIPS 2023 人工智能科学研讨会，2023 年。
刘和王[2016]
Q. Liu, D. Wang, Stein variational gradient descent：一种通用的贝叶斯推理算法，神经信息处理系统进展 29 (2016)。
刘[2017]号
Q. Liu, Stein variational gradient descent as gradient flow, Advances in neural information processing systems 30 (2017).
Salimans 等人[2015]
T. Salimans, D. Kingma, M. Welling, Markov chain monte carlo and variational inference：弥合差距，in：国际机器学习会议，PMLR，2015 年，第 1218-1226 页。
张和埃尔南德斯-洛巴托[2018]
Y. Zhang, J. M. Hernández-Lobato.Hernández-Lobato, 耳模推理：通过优化加速收敛，arXiv preprint arXiv:1805.10377 (2018).
哈比卜和巴伯[2018］
R. Habib, D. Barber, Auxiliary variational mcmc, in：学习表征国际会议，2018。
鲁伊斯和蒂齐亚斯[2019］
F. Ruiz, M. Titsias, A contrastive divergence for combining variational inference and mcmc, in：国际机器学习会议，PMLR，2019，第 5537-5545 页。
Wu 等人[2020］
H. Wu, J. Köhler, F. Noé, Stochastic normalizing flows, Advances in Neural Information Processing Systems 33 (2020) 5933-5944.
Shen 等人[2021]
Z. Shen，M. Heinonen，S. Kaski，De-randomizing mcmc dynamics with the diffusion stein operator，Advances in Neural Information Processing Systems 34 (2021) 17507-17517。
Sohl-Dickstein 等人[2015]
J. Sohl-Dickstein, E. Weiss, N. Maheswaranathan, S. Ganguli, Deep unsupervised learning using nonequilibrium thermodynamics, in：国际机器学习会议，PMLR，2015，第 2256-2265 页。
Ho 等人[2020]
J. Ho, A. Jain, P. Abbeel, Denoising diffusion probabilistic models, Advances in neural information processing systems 33 (2020) 6840-6851.
宋等人[2020］
Y. Song，J. Sohl-Dickstein，D. P.Kingma，A. Kumar，S. Ermon，B. Poole，通过随机微分方程进行基于分数的生成建模，arXiv preprint arXiv:2011.13456 (2020)。
Song 等人[2021］
Y. Song, C. Durkan, I. Murray, S. Ermon, 基于分数的扩散模型的最大似然训练，Advances in Neural Information Processing Systems 34 (2021) 1415-1428。
张和陈[2021］
Q. Zhang, Y. Chen, Path integral sampler: a stochastic control approach for sampling, arXiv preprint arXiv:2111.15141 (2021).
伯纳等人[2022］
J. Berner, L. Richter, K. Ullrich, 基于扩散的生成建模的最优控制视角，arXiv preprint arXiv:2211.01364 (2022)。
巴尔加斯等人 [2023]
F. Vargas，W. Grathwohl，A. Doucet，Denoising diffusion samplers，arXiv preprint arXiv:2302.13834 (2023)。
里克特等人 [2023]
L. Richter, J. Berner, G.-H. Liu, Improved sampling via learned diffusions, arar. L. Richter, J. Berner, G.-H. Liu, Improved sampling via learned diffusions, arXiv preprint arXiv:2307.01198 (2023).
Máté 和 Fleuret [2023]
B. Máté, F. Fleuret, Learning interpolations between boltzmann densities, Transactions on Machine Learning Research (2023).
Kingma 等人[2019]
D. P. Kingma, M. Welling, et al.Kingma, M. Welling, et al., An introduction to variational autoencoders, Foundations and Trends® in Machine Learning 12 (2019) 307-392.
安德森[1982］
B. D.Anderson, Reverse-time diffusion equation models, Stochastic Processes and their Applications 12 (1982) 313-326.
Rombach 等人[2022]
R. Rombach，A. Blattmann，D. Lorenz，P. Esser，B. Ommer，使用潜在扩散模型的高分辨率图像合成，in：IEEE/CVF 计算机视觉与模式识别会议论文集》，2022 年，第 10684-10695 页。
Fu 等人 [2024]
C. Fu，K. Yan，L. Wang，W. Y.Au, M. C.McThrow, T. Komikado, K. Maruhashi, K. Uchino, X. Qian, S. Ji, A latent diffusion model for protein structure generation, in：图上学习会议，PMLR，2024 年，第 29-1 页。
Zheng 等人[2024]
B. Zheng, G. Sun, L. Dong, S. Wang, Ld-csnet：基于潜在扩散的感知压缩传感架构，神经网络（2024）106541。
Choi等人[2022]
K. Choi, C. Meng, Y. Song, S. Ermon, Density ratio estimation via infinitesimal classification, in：国际人工智能与统计会议，PMLR，2022 年，第 2552-2573 页。
Chen et al.
R. T.Chen，Y. Rubanova，J. Bettencourt，D. K.Duvenaud，神经常微分方程，Advances in neural information processing systems 31 (2018)。
Dinh 等人[2016]
L. Dinh, J. Sohl-Dickstein, S. Bengio, Density estimation using real nvp, arXiv preprint arXiv:1605.08803 (2016).
杜瓦和格拉夫[2017］
D.Dua, C. Graff, Uci machine learning repository, https://archive.ics.uci.edu/ml/index.php, 2017.访问时间：2022-03-13。
Zhang et al.
Y. Zhang，Z. Ghahramani，A. J.Storkey, C. Sutton, Continuous relaxations for discrete hamiltonian monte carlo, Advances in Neural Information Processing Systems 25 (2012).
Zheng 等人[2023]
S. Zheng, J. He, C. Liu, Y. Shi, Z. Lu, W. Feng, F. Ju, J. Wang, J. Zhu, Y. Min, et al、Towards predicting equilibrium distributions for molecular systems with deep learning, arXiv preprint arXiv:2306.05445 (2023).
Jing 等人 [2023]
B. Jing, E. Erives, P. Pao-Huang, G. Corso, B. Berger, T. Jaakkola, Eigenfold：Eigenfold: Generative protein structure prediction with diffusion models, arXiv preprint arXiv:2304.02198 (2023).
格雷顿等人[2012］
A. Gretton, K. M.博格沃尔特、M. J.Rasch，B. Schölkopf，A. Smola，内核双样本检验，The Journal of Machine Learning Research 13 (2012) 723-773。

$\displaystyle\mathbb{E}_{p_{D}}\left[s\left(z_{t},x\right)^{\top}\nabla_{z_{t}% }\log p_{D}(z_{t}\|z_{0})\|x,z_{0}\right]$	$\displaystyle=$	$\displaystyle\int p_{D}(z_{t}\|z_{0})s\left(z_{t},x\right)^{\top}\nabla_{z_{t}}% \log p_{D}(z_{t}\|z_{0})\mathrm{d}z_{t}$
	$\displaystyle=$	$\displaystyle\int s\left(z_{t},x\right)^{\top}\nabla_{z_{t}}p_{D}(z_{t}\|z_{0})% \mathrm{d}z_{t}$
	$\displaystyle=$	$\displaystyle\int\mathrm{div}_{z_{t}}\left(p_{D}(z_{t}\|z_{0})s\left(z_{t},x% \right)\right)\mathrm{d}z_{t}$
		$\displaystyle-\int p_{D}(z_{t}\|z_{0})\mathrm{tr}\left(\frac{\partial s(z_{t},x% )}{\partial z_{t}}\right)\mathrm{d}z_{t}$
	$\displaystyle=$	$\displaystyle-\mathbb{E}_{p_{D}}\left[\mathrm{tr}\left(\frac{\partial s(z_{t},% x)}{\partial z_{t}}\right)\|z_{0}\right]$
$\displaystyle\Rightarrow\mathbb{E}_{p_{D}}\left[s\left(z_{t},x\right)^{\top}% \nabla_{z_{t}}\log p_{D}(z_{t}\|z_{0})\right]$	$\displaystyle=$	$\displaystyle-\mathbb{E}_{p_{D}}\left[\mathrm{tr}\left(\frac{\partial s(z_{t},% x)}{\partial z_{t}}\right)\right]$

$\displaystyle D_{KL}\left(p_{D}(x,z_{[\cdot]})\|\|p_{E}(x,z_{[\cdot]})\right)$	$\displaystyle=$	$\displaystyle\mathbb{E}_{p_{D}}\left[\log\frac{p_{D}(x\|z_{0};\phi)}{\pi(x)}\right]$
		$\displaystyle+\mathbb{E}_{p_{D}}\left[\frac{g^{2}(t)}{2}\left(\left\\|\nabla% \log p_{D}(z_{t})\right\\|^{2}+\left\\|s\left(z_{t},x,t\|\theta\right)\right\\|^{2% }\right.\right.$
		$\displaystyle\quad\quad\quad\quad\ \quad\quad\left.\left.-2s\left(z_{t},x,t\|% \theta\right)^{\top}\nabla\log p_{D}(z_{t}\|z_{0})\right)\right].$

基于能量的波尔兹曼分布高效采样扩散发生器

Abstract 摘要

关键词：

1 简介

2 前言和设置

3 能量扩散发生器

3.1 模型架构

3.1.1边界条件引导的分数函数模型

3.1.2 基于广义哈密顿动力学的解码器

3.2损失函数

3.3样本重新加权

4 实验

5 Conclusion5 结论

致谢

附录 A zTz_{T}italic_z start_POSTSUBSCRIPT italic_T end_POSTSUBSCRIPT 和 xxitalic_x 之间独立性的证明

Appendix B Proof of (5)

附录 C实施解码器

附录 D精确时间积分的重要性权重

附录 E实验细节

附录 F消融研究

参考资料

5 Conclusion
5 结论

附录 A $z_{T}italic_z start_POSTSUBSCRIPT italic_T end_POSTSUBSCRIPT$ 和 $x xitalic_x$ 之间独立性的证明