机器学习_贝叶斯公式/先验概率/后验概率

1.基础知识点

【1】条件概率公式



在b的条件下a发生的概率=a、b同时发生的概率/b发生的概率

【2】理解：因为a、b同时发生的概率里已经包含了b发生的概率，所以要将b的概率除掉。

2.验-经验

【1】先验概率：于经验之前的概率，相当于普通的概率

【2】后验概率：于经验之后的概率，即条件概率

3.贝叶斯公式：实质就是条件概率公式两种形式（以a、b同时发生的概率为桥梁）

p(A|B)=P(B|A)*P(A)/P(B)

4.在机器学习中用X表示特征集合，wi代表类标签。则

公式表示：P(Wi|X)=P(X|Wi)*P(Wi)/P(X)

【1】p(wi)为先验概率，有70个苹果，30个梨，那么选一个为苹果的概率

【2】p(X|Wi) 称为似然概率，类别确定情况下x的分布，比如说苹果的尺寸分布。知道似然概率与梨的大小分布似然概率比较后，也就知道了摸到什么尺寸的情况下，是苹果的概率大于是梨的概率。

【3】对公式上述两个式子相乘的理解：上述两个式子相乘后就是：事件一：选一个为苹果的概率 。事件二：选一个某尺寸的概率（即某一个特征的概率）

两个事件同时发生的概率。即拿出一个是苹果且有这个特征的概率，那么就可以用来预测这个特征的真实类别

这是精华，是为了得到某特征属于某一类的概率

【4】公式的分布可以从两个方向去理解：

               1.从条件概率推导去理解

               2.我们要预测需要知道拿出一个东西是苹果且具备这个特征的概率，实际上已经可以用来预测了。但为了用概率表示，分母作用是归一化，分母可以写成∑P(X|Wi)*p(Wi)

【5】P(X|Wi)则称为后验概率

5.贝叶斯公式的应用

p(wi|x)哪个大就属于哪个类别

n.问题

【1】什么是似然概率？所谓似然是老师说的可能性？