朴素贝叶斯（NaiveBayes）算法总结

朴素贝叶斯（NaiveBayes）算法总结

郑海波 2013/1/22 http://blog.csdn.net/nuptboyzhb

算法概述：

朴素贝叶斯算法是基于贝叶斯定理与特征条件独立假设的分类方法。对于给定的训练数据集，首先基于特征条件独立假设学习输入/输出的联合概率分布；然后基于此模型，对给定的输入x，利用贝叶斯定理求出后验概率最大的输出y。朴素贝叶斯法实现简单，学习与预测的效率都很高，是一种常用的方法。

假设条件：

各个特征之间独立，即用公式表示为：



















同理计算

P（weight=130|Y=男性）、P（footsize=8|Y=男性）

P（身高=6|Y=女性）、P（weight=130|Y=女性）、P（footsize=8|Y=女性）

最后计算公式（8）得出：p(female)>p(male).因此判断该样例为女性。

参考文献

[1]李航.统计学习方法[D].清华大学出版社 2012年

[2] 维基百科：http://zh.wikipedia.org/wiki/朴素贝叶斯分类器