贝叶斯公式推导
2014-06-12 10:35
447 查看
贝叶斯是18世纪概率论的早期研究者,此人跟张若虚差不多,传世的东西很少,就那么一两个拿得上台面的,但就是靠这一两个东西,其名字流传至今。
贝叶斯公式是贝叶斯分类、贝叶斯网络的基础。理解它的推导过程,对理解这些数据挖掘算法有很大的助益。
我们以韩家炜书中的例子来完成推导过程。假设P(H)表示买电脑事件概率,P(X)表示随意指定一人为中年人概率,根据历史统计结果,买电脑的人当中,有20%的人是中年人,记为P(X|H)=0.2 ,这种概率值叫后验概率值,因为这里X的概率需要考虑H的情况。又知道社会上有30%是中年人,记为P(X)=0.3,还知道任意一人买电脑的概率是5%,这两个值是先验概率值,我们可以通过经验或者社会调查之类的方法获得。现在要求给定某中年人,他买电脑的概率是多少?写成数学表达式就是P(H|X)的值是多少?
在贝叶斯之前,还没有人能处理这类问题,贝叶斯本人解决了这种问题后,也没意识到其中包含了深刻的思想,这种思想延续至今,成为概率论里面最重要的公式之一,也是现在机器学习领域里面最核心的算法之一。
根据概率公式定义,中年人买电脑的概率=中年人中买了电脑的人数/所有中年人人数 ,中年人买了电脑的人数,可以表示成总人数*买电脑的概率*其中中年人占的人数比,所有中年人人数可以表示成总人数*中年人概率,设所有人数是U,写成数学表达式就是
1) P(H|X)=U*P(H)*P(X|H) / U*P(X)=P(X|H)*P(H)/P(X)
由于P(X|H) P(H) P(X)已知,P(H|X)也就可以求了
上面那个就是著名的贝叶斯公式,尽管推导公式很简单,但是其中蕴含了深刻的思想,这个公式使我们可以根据一些已知的概率值,求出无法直接获得的概率值,从而揭示事物运转背后的规律。由贝叶斯定理发展而来的贝叶斯网络,是可以媲美神经网络的数据挖掘算法。
贝叶斯定理在现实应用中也不胜枚举,比如谷歌的搜索结果。后一篇博文我将介绍怎样利用贝叶斯定理识别垃圾邮件。
贝叶斯公式是贝叶斯分类、贝叶斯网络的基础。理解它的推导过程,对理解这些数据挖掘算法有很大的助益。
我们以韩家炜书中的例子来完成推导过程。假设P(H)表示买电脑事件概率,P(X)表示随意指定一人为中年人概率,根据历史统计结果,买电脑的人当中,有20%的人是中年人,记为P(X|H)=0.2 ,这种概率值叫后验概率值,因为这里X的概率需要考虑H的情况。又知道社会上有30%是中年人,记为P(X)=0.3,还知道任意一人买电脑的概率是5%,这两个值是先验概率值,我们可以通过经验或者社会调查之类的方法获得。现在要求给定某中年人,他买电脑的概率是多少?写成数学表达式就是P(H|X)的值是多少?
在贝叶斯之前,还没有人能处理这类问题,贝叶斯本人解决了这种问题后,也没意识到其中包含了深刻的思想,这种思想延续至今,成为概率论里面最重要的公式之一,也是现在机器学习领域里面最核心的算法之一。
根据概率公式定义,中年人买电脑的概率=中年人中买了电脑的人数/所有中年人人数 ,中年人买了电脑的人数,可以表示成总人数*买电脑的概率*其中中年人占的人数比,所有中年人人数可以表示成总人数*中年人概率,设所有人数是U,写成数学表达式就是
1) P(H|X)=U*P(H)*P(X|H) / U*P(X)=P(X|H)*P(H)/P(X)
由于P(X|H) P(H) P(X)已知,P(H|X)也就可以求了
上面那个就是著名的贝叶斯公式,尽管推导公式很简单,但是其中蕴含了深刻的思想,这个公式使我们可以根据一些已知的概率值,求出无法直接获得的概率值,从而揭示事物运转背后的规律。由贝叶斯定理发展而来的贝叶斯网络,是可以媲美神经网络的数据挖掘算法。
贝叶斯定理在现实应用中也不胜枚举,比如谷歌的搜索结果。后一篇博文我将介绍怎样利用贝叶斯定理识别垃圾邮件。
相关文章推荐
- 全概率公式、贝叶斯公式推导过程
- 全概率公式、贝叶斯公式推导过程
- 全概率公式、贝叶斯公式推导过程
- 全概率公式、贝叶斯公式推导过程
- 全概率公式、贝叶斯公式推导过程
- 贝叶斯公式推导及意义
- 全概率公式、贝叶斯公式推导过程
- 今天竟然忘记了余弦公式和点积公式的互相推导关系了。
- 如何利用导数推导向心加速度公式? + 开普勒 第三定律的推导过程
- AUX778076_SEQUENCE_NAME(假设为boost::mpl::vector)模拟编译器的推导过程
- 谈“点到直线距离公式”的向量推导方法
- 坐标旋转变换公式的推导
- 3D坐标绕轴旋转公式推导
- 让make自动推导
- 西方有术傅里叶 (离散傅里叶变换的推导(1))
- 算法复杂度的差分方程推导3(两种一般情况的兼容)
- 贝叶斯公式与猥琐男
- 图形中投影矩阵的推导
- 利用四元树来计算一个坐标点绕任意轴旋转后,新坐标点的推导过程
- 设计模式推导——前言