似然估计和极大似然估计应用

似然估计：

设总体X服从分布P(x;θ)，但X是随机变量时为概率密度，当X为离散型随机变量时为概率分布）。θ为待估计函数，X1，X2，X2，...，Xn是来自于总体X的样本，x1,x2…xn为样本X1,X2,…Xn的一个观察值。则样本的联合分布（当X是连续型随机变量时为概率密度，但X为离散型随机变量时为概率分布）。


L（θ）=L（x1,x2,…,xn；θ）=ΠP（xi；θ）称为似然函数。

极大似然函数

是指找出一个（θ）的组合，使得L（θ）=L（x1,x2,…,xn；θ）=ΠP（xi；θ）最大化，即使得样本数据出现的概率最大化（这是基于我们认为样本的数据已经发生了，那么这组数据的出现概率必然是最大的）。

参考文献：

极大似然估计定义 http://baike.baidu.com/link?url=mHcjLupRYCQTCdQHmGnjjjJYveYgVf9J4-eBX5__jisMMTnkAUwsSEv7c9szbIe4rQW2_e9snzbjWpsFQBVTLq

朴素贝叶斯的极大似然估计：http://blog.sina.com.cn/s/blog_62b0682a0101e8xn.html