變分貝葉斯EM指的是變分貝葉斯期望最大化(VBEM, variational Bayes expectation maximization),這種算法基於變分推理,通過疊代尋找最小化KL(Kullback-Leibler)距離的邊緣分布來近似聯合分布,同時利用mean field 近似減小聯合估計的複雜度。
變分貝葉斯EM方程最早是由BEAL M J. 在其論文《Variational Algorithms for Approximate Bayesian Inference》[D], London, UK: University College London, 2003里所提出的。其具體算法可表示為:在第i次VBEM疊代中,參數分布的更新方程式可表示為VBE步和VBM步。
在VBEM算法中,VBE步驟和VBM步驟均是關於後驗分布求均值的,因此隱參數和未知參數之間不再存在區別。