混合高斯模型(Mixtures of Gaussians)和EM算法
2016-03-31 11:35
288 查看
转自:混合高斯模型(Mixtures of Gaussians)和EM算法
这篇讨论使用期望最大化算法(Expectation-Maximization)来进行密度估计(density estimation)。
与k-means一样,给定的训练样本是
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104061606314069.png)
,我们将隐含类别标签用
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104061606322532.png)
表示。与k-means的硬指定不同,我们首先认为
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104061606334268.png)
是满足一定的概率分布的,这里我们认为满足多项式分布,
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104061606336809.png)
,其中
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104061606336842.png)
,
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104061606348893.png)
有k个值{1,…,k}可以选取。而且我们认为在给定
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104061606354532.png)
后,
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104061606365503.png)
满足多值高斯分布,即
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104061606375536.png)
。由此可以得到联合分布
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104061606377205.png)
。
整个模型简单描述为对于每个样例
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104061606389256.png)
,我们先从k个类别中按多项式分布抽取一个
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104061606397719.png)
,然后根据
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104061606407502.png)
所对应的k个多值高斯分布中的一个生成样例
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104061606419553.png)
,。整个过程称作混合高斯模型。注意的是这里的
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/20110406160642524.png)
仍然是隐含随机变量。模型中还有三个变量
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104061606434211.png)
和
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104061606438771.png)
。最大似然估计为
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104061606443297.png)
。对数化后如下:
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104061606467988.png)
这个式子的最大值是不能通过前面使用的求导数为0的方法解决的,因为求的结果不是close form。但是假设我们知道了每个样例的
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104061606478643.png)
,那么上式可以简化为:
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104061606482854.png)
这时候我们再来对
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104061606491317.png)
和
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104061606506956.png)
进行求导得到:
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/20110406160659455.png)
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104061607019507.png)
就是样本类别中
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104061607029639.png)
的比率。
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104061607039738.png)
是类别为j的样本特征均值,
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104061607047013.png)
是类别为j的样例的特征的协方差矩阵。
实际上,当知道
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104061607059064.png)
后,最大似然估计就近似于高斯判别分析模型(Gaussian
discriminant analysis model)了。所不同的是GDA中类别y是伯努利分布,而这里的z是多项式分布,还有这里的每个样例都有不同的协方差矩阵,而GDA中认为只有一个。
之前我们是假设给定了
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104061607064703.png)
,实际上
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104061607071214.png)
是不知道的。那么怎么办呢?考虑之前提到的EM的思想,第一步是猜测隐含类别变量z,第二步是更新其他参数,以获得最大的最大似然估计。用到这里就是:
在E步中,我们将其他参数
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104061607091445.png)
看作常量,计算
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104061607107640.png)
的后验概率,也就是估计隐含类别变量。估计好后,利用上面的公式重新计算其他参数,计算好后发现最大化最大似然估计时,
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104061607116103.png)
值又不对了,需要重新计算,周而复始,直至收敛。
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104061607124251.png)
的具体计算公式如下:
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104061607124317.png)
这个式子利用了贝叶斯公式。
这里我们使用
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104061607136368.png)
代替了前面的
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104061607142497.png)
,由简单的0/1值变成了概率值。
对比K-means可以发现,这里使用了“软”指定,为每个样例分配的类别
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/20110406160714960.png)
是有一定的概率的,同时计算量也变大了,每个样例i都要计算属于每一个类别j的概率。与K-means相同的是,结果仍然是局部最优解。对其他参数取不同的初始值进行多次计算不失为一种好方法。
虽然之前再K-means中定性描述了EM的收敛性,仍然没有定量地给出,还有一般化EM的推导过程仍然没有给出。下一篇着重介绍这些内容。
转自:混合高斯模型(Mixtures of Gaussians)和EM算法
这篇讨论使用期望最大化算法(Expectation-Maximization)来进行密度估计(density estimation)。
与k-means一样,给定的训练样本是
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104061606314069.png)
,我们将隐含类别标签用
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104061606322532.png)
表示。与k-means的硬指定不同,我们首先认为
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104061606334268.png)
是满足一定的概率分布的,这里我们认为满足多项式分布,
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104061606336809.png)
,其中
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104061606336842.png)
,
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104061606348893.png)
有k个值{1,…,k}可以选取。而且我们认为在给定
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104061606354532.png)
后,
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104061606365503.png)
满足多值高斯分布,即
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104061606375536.png)
。由此可以得到联合分布
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104061606377205.png)
。
整个模型简单描述为对于每个样例
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104061606389256.png)
,我们先从k个类别中按多项式分布抽取一个
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104061606397719.png)
,然后根据
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104061606407502.png)
所对应的k个多值高斯分布中的一个生成样例
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104061606419553.png)
,。整个过程称作混合高斯模型。注意的是这里的
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/20110406160642524.png)
仍然是隐含随机变量。模型中还有三个变量
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104061606434211.png)
和
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104061606438771.png)
。最大似然估计为
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104061606443297.png)
。对数化后如下:
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104061606467988.png)
这个式子的最大值是不能通过前面使用的求导数为0的方法解决的,因为求的结果不是close form。但是假设我们知道了每个样例的
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104061606478643.png)
,那么上式可以简化为:
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104061606482854.png)
这时候我们再来对
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104061606491317.png)
和
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104061606506956.png)
进行求导得到:
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/20110406160659455.png)
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104061607019507.png)
就是样本类别中
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104061607029639.png)
的比率。
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104061607039738.png)
是类别为j的样本特征均值,
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104061607047013.png)
是类别为j的样例的特征的协方差矩阵。
实际上,当知道
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104061607059064.png)
后,最大似然估计就近似于高斯判别分析模型(Gaussian
discriminant analysis model)了。所不同的是GDA中类别y是伯努利分布,而这里的z是多项式分布,还有这里的每个样例都有不同的协方差矩阵,而GDA中认为只有一个。
之前我们是假设给定了
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104061607064703.png)
,实际上
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104061607071214.png)
是不知道的。那么怎么办呢?考虑之前提到的EM的思想,第一步是猜测隐含类别变量z,第二步是更新其他参数,以获得最大的最大似然估计。用到这里就是:
循环下面步骤,直到收敛: { (E步)对于每一个i和j,计算 ![]() (M步),更新参数: ![]() } |
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104061607091445.png)
看作常量,计算
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104061607107640.png)
的后验概率,也就是估计隐含类别变量。估计好后,利用上面的公式重新计算其他参数,计算好后发现最大化最大似然估计时,
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104061607116103.png)
值又不对了,需要重新计算,周而复始,直至收敛。
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104061607124251.png)
的具体计算公式如下:
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104061607124317.png)
这个式子利用了贝叶斯公式。
这里我们使用
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104061607136368.png)
代替了前面的
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/201104061607142497.png)
,由简单的0/1值变成了概率值。
对比K-means可以发现,这里使用了“软”指定,为每个样例分配的类别
![](http://images.cnblogs.com/cnblogs_com/jerrylead/201104/20110406160714960.png)
是有一定的概率的,同时计算量也变大了,每个样例i都要计算属于每一个类别j的概率。与K-means相同的是,结果仍然是局部最优解。对其他参数取不同的初始值进行多次计算不失为一种好方法。
虽然之前再K-means中定性描述了EM的收敛性,仍然没有定量地给出,还有一般化EM的推导过程仍然没有给出。下一篇着重介绍这些内容。
相关文章推荐
- MVVM With ReactiveCocoa
- HDU 5113 Black And White(dfs)
- java 常用类 日期类 Date SimpleDateFormat Calendar
- winform 记住密码功能
- Android Meterial Design Support Library
- 20135220谈愈敏Blog6_进程的描述和创建
- Android进阶之ListView实现多条数据同时倒计时功能
- Eclipse快捷键 10个最有用的快捷键
- HA 启动heartbeat以后虚拟IP不出现
- 关于Python机器学习
- 遍历Map的四种方法
- 进入CSDN的第一篇博客
- 小结RunLoop
- iText初探之HelloWorld (一)
- asp.net MVC利用ActionFilterAttribute过滤关键字的方法
- Eclipse下修改工程名
- MTK最新最全的智能机roadmap(珍藏版)
- Unity 5.4公開測試,免費用戶也能下載使用!
- Load sprites in XCode 7.3 Beta #15199
- 百科—最短路