大数定律

大数定律有若干个表现形式。这里仅介绍高等数学概率论要求的常用的三个重要定律：

切比雪夫大数定理

设



，....是一列相互独立的随机变量(或者两两不相关)[2] ，他们分别存在期望



和方差



。若存在常数C使得：



则对任意小的正数 ε，满足公式一：



将该公式应用于抽样调查，就会有如下结论：随着样本容量n的增加，样本平均数将接近于总体平均数。从而为统计推断中依据样本平均数估计总体平均数提供了理论依据。

特别需要注意的是，切比雪夫大数定理并未要求



同分布，相较于后面介绍的伯努利大数定律和辛钦大数定律更具一般性。

伯努利大数定律

设μ是n次独立试验中事件A发生的次数，且事件A在每次试验中发生的概率为P，则对任意正数ε，有公式二：



该定律是切比雪夫大数定律的特例，其含义是，当n足够大时，事件A出现的频率将几乎接近于其发生的概率，即频率的稳定性。

在抽样调查中，用样本成数去估计总体成数，其理论依据即在于此。

辛钦大数定律

辛钦大数定律：常用的大数定律

设



为独立同分布的随机变量序列，若



的数学期望存在，则服从大数定律:

即对任意的ε>0，有公式三：



大数定律的四种证法

对于一般人来说，大数定律的非严格表述是这样的：



是独立同分布随机变量序列，期望为



，则



收敛到u.

如果说“弱大数定律”，上述收敛是指依概率收敛(in probability)，如果说“强大数定律”，上述收敛是指几乎必然收敛(almost
surely/with probability one)。

大数定律通俗一点来讲，就是样本数量很大的时候，样本均值和真实均值充分接近。这一结论与中心极限定理一起，成为现代概率论、统计学、理论科学和社会科学的基石。（有趣的是，虽然大数定律的表述和证明都依赖现代数学知识，但其结论最早出现在微积分出现之前。而且在生活中，即使没有微积分的知识也可以应用。例如，没有学过微积分的学生也可以轻松利用excel或计算器计算样本均值等统计量，从而应用于社会科学。）