概念

计算方法

MCMC（Metropolis-Hastings、Gibbs）采样近似后验，变分推断用优化近似后验，是贝叶斯计算的现代工具。

阅读路径

参考可汗学院 Get ready 机制：先修概念 → 当前概念 → 进阶概念，✓ 表示已读。

计算方法数理统计

01定义

高维后验无闭式解时，计算登场：MCMC（Metropolis-Hastings、Gibbs）构造以后验为平稳分布的马尔可夫链来采样，变分推断则把采样问题化为优化问题。贝叶斯的深度取决于计算的能力。

MCMC 链按后验概率分配访问频率

Metropolis-Hastings 用接受-拒绝保证细致平衡，链的平稳分布即后验；Gibbs 逐坐标条件采样——混合与收敛诊断（ $\hat R$ 、有效样本量）是实操关键。

在参数族 $q_\lambda$ 中最小化 $\mathrm{KL}(q\|p)$ ：ELBO 是可微下界，随机梯度可扩展到百万级数据——快但偏，与 MCMC 互补。

HMC/NUTS（梯度哈密顿动力学）是 Stan 的引擎；归一化流与扩散模型开始承担后验采样任务——贝叶斯计算与生成模型合流。

\alpha(x,y)=\min\!\Big(1,\frac{p(y)q(x\mid y)}{p(x)q(y\mid x)}\Big)

Metropolis 等 1953 年发明算法研究统计物理；Hastings 1970 年推广；Geman-Geman 1984 年 Gibbs；Jordan 等 1999 年系统化变分推断。

层级模型与广义混合模型、Stan/PyMC 等概率编程框架、深度学习贝叶斯神经网络、天体物理的参数推断（引力波信号）。

Bootstrap：重采样得到抽样分布增大 B：均值直方图逼近正态，标准误 = 分布的标准差

B 重采样次数1000