em算法可以当作机器学习从业者水平的试金石。看似复杂,但真正懂了之后无比简单。
E步:设待求解得未知参数为x, x的当前值可以随机给定作为起点,记作x'。E步干的事情就是根据最大似然的思想,得出式子 V(x|x')。
M步:式子V(x|x')最大化,将求解得到的x值作为下一轮的x'值,继续迭代。直至收敛到局部最优。
对EM算法感兴趣的可以继续阅读机器翻译方向的ibm模型。基础理解可以参考米歇尔那本《机器学习》。