EM算法与思想
2017-09-22 17:47
204 查看
EM思想与最大似然参数估计问题密切相关。单纯的同参数(同一类别)同分布的参数估计使用最大似然估计或矩估计解决。若是混合参数(多个类别)同分布的参数估计使用的就是EM思想。EM算法就是这样,假设我们想估计知道A和B两个参数,在开始状态下二者都是未知的,但如果知道了A的信息就可以得到B的信息,反过来知道了B也就得到了A。可以考虑首先赋予A某种初值,以此得到B的估计值,然后从B的当前值出发,重新估计A的取值,这个过程一直持续到收敛为止。
EM的意思是“Expectation Maximization”。其概率模型涉及无法观测的隐含变量(参数)
最大期望算法经过两个步骤交替进行计算:
第一步是计算期望(E),利用对隐藏变量的现有估计值,计算其最大似然估计值;
第二步是最大化(M),最大化在 E 步上求得的最大似然值来计算参数的值。
M 步上找到的参数估计值被用于下一个 E 步计算中,这个过程不断交替进行。 迭代使用EM步骤,直至收敛。
EM是一种解决存在隐含变量优化问题的有效方法。
EM的意思是“Expectation Maximization”。其概率模型涉及无法观测的隐含变量(参数)
最大期望算法经过两个步骤交替进行计算:
第一步是计算期望(E),利用对隐藏变量的现有估计值,计算其最大似然估计值;
第二步是最大化(M),最大化在 E 步上求得的最大似然值来计算参数的值。
M 步上找到的参数估计值被用于下一个 E 步计算中,这个过程不断交替进行。 迭代使用EM步骤,直至收敛。
EM是一种解决存在隐含变量优化问题的有效方法。
相关文章推荐
- EM算法与思想
- CH10 面向对象思想
- Linux多进程_消息通信_设计思想交流
- NoSQL设计思想(从辅到主)
- Codeforces Round #381 (Div. 2) D. Alyona and a tree 树上二分+前缀和思想
- Linux多进程_消息通信_设计思想交流
- poj 4046 Sightseeing 枚举思想在spfa中的应用
- 工厂方法模板(java编程思想 使用匿名内部类)
- 云计算的思想领袖:与橡树岭国家实验室云计算研究员Rob Gillen的谈话
- 开发式新手引导设计思想
- Java编程思想-java中的并发(二)
- linux下的“分离控制”思想
- 大数的运算思想
- Android编程思想,面向对象程序设计第三篇——观察者模式
- 编程思想基本概念之函数式编程(Functional Programming)
- 算法思想与数据结构
- 正则表达式笔记(java编程思想)
- OOP思想实例讲解
- JAVA编程思想(第4版) toString()的用法小结
- ORM——基本思想