贝叶斯估计一致估计（循环变异贝叶斯蒙特卡洛用于高效的多模式后验分布评估）

贝叶斯估计一致估计（循环变异贝叶斯蒙特卡洛用于高效的多模式后验分布评估）

统计模型更新在工程中经常被用来计算一些未知的潜在参数的不确定性，当一组关于可观察量的测量结果被给出时。变异推理是机器学习界开发的一种替代抽样方法，通过优化方法来估计后验近似值。本文研究了变量贝叶斯蒙特卡洛（VBMC）方法，目的是处理工程中涉及昂贵的运行模型的统计模型更新问题。该方法将主动采样贝叶斯正交法与基于高斯过程的变量推理相结合，产生了涉及昂贵的待运行模型的少量运行的已识别参数的后分布的非参数估计。VBMC也可用于模型选择，因为它产生了对模型证据下限的估计。在本文中，通过在算法中引入循环退火计划，开发了VBMC算法的一个变体。所提出的周期性VBMC算法通过多个周期的探索和利用阶段，可以有效地处理多模式后验。四个数值例子用来比较标准VBMC算法、单调VBMC、循环VBMC和过渡集合马尔科夫链蒙特卡洛（TEMCMC）。总的来说，与最先进的采样技术TEMCMC相比，所提出的循环VBMC方法以非常少的模型运行次数产生了准确的结果。在存在潜在的多模态问题时，所提出的循环VBMC算法在产生的后验的准确性方面优于所有其他方法。

《Cyclical Variational Bayes Monte Carlo for Efficient Multi-Modal Posterior Distributions Evaluation》

论文地址:http://arxiv.org/abs/2202.11645v1