资源简介

(共31张PPT)
大数定律与中心极限定理
5.1
大 数 定 律
5.2
中心极限定理
目录
我们知道，随机现象虽然在每次试验中是否出现带有不确定性和偶然性，但在大量的重复试验中呈现一定的规律性.例如，在相同的条件下进行大量的重复试验时，事件A出现的频率随着试验次数的逐渐增大而具有稳定性.实际上，不仅仅随机事件出现的频率具有稳定性，大量随机现象的平均结果也具有某种稳定性，这就是说，不论个别随机现象的结果及它们在进行过程中的个体特征如何，大量随机现象的平均结果实际上与每一个个别现象的特征无关.概率论中用来阐述大量随机现象平均结果的稳定性的理论称为大数定律.
正态分布在概率论中占有特别重要的地位.在实际应用中，许多随机变量是因大量的相互独立的随机因素综合影响而成的，这其中的每个因素在总的影响中所起的作用是微小的.可以证明，这样的随机变量近似地服从正态分布，这就是中心极限定理.
5.1 大 数 定 律
5.1.1 依概率收敛
大数定律在描述这些平均结果的稳定性时，是以研究某些概率接近于1或零的事件的规律的方式进行的.由此引入了概率意义下收敛的概念，本书仅限于讨论其中的依概率收敛的定义.
定义5.1 设 是一个随机变量序列，X是一个随机变量，若对任意的 ，有
，
则称随机变量序列 依概率收敛到随机变量X，记为 .
特别地，如果存在一个常数a，对于任何的 ，有
，
则随机变量序列 依概率收敛到常数a，即 .此时说明随着n的增大，与常数a几乎无限接近，即随机变量的取值几乎失去随机性，而是稳定在常数a附近.
5.1.2 大数定律的几种形式
当随机变量序列具有不同的性质时，大数定律也有不同的表示形式，下面我们来介绍大数定律得的几种具体形式.
定理5.1（伯努利大数定律） 设 为事件A在n次独立重复试验中发生的次数，p为事件A在每次试验中发生的概率，则对任意的 ， 有
.
证 （方法一）显然 是一个随机变量，且服从二项分布 ，从而
故 根据切比雪夫不等式
，
同 时 ，故
.
伯努利大数定理表明，在条件完全相同的独立重复试验中，当试验次数n无限增大时，事件出现的频率 依概率收敛到事件出现的概率p.这就从理论上证明了频率稳定到概率的含义.正是基于这一理论，当n很大时，可以用频率作为概率的近似.同时也说明，如果事件发生的概率较小，则该事件在个别试验中发生的可能性就较小.这就是概率统计中的实际推断原理.
实际推断原理 小概率事件(发生的概率很小的事件)在个别试验中是不可能发生的.
实际推断原理在实际工作中有着广泛的应用.至于概率小到何等程度为小概率事件，则要具体问题具体分析.一般问题中以0.05为界限.
实际推断原理也是第8章中假设检验的理论依据.
人们在实践中还发现，除了频率具有稳定性以外，大量随机现象的平均值也具有稳定性.下面几个大数定律就给出了平均值的稳定性.
5.1.2 大数定律的几种形式
定理5.2（马尔可夫大数定律） 设 是一个随机变量序列，每个随机变量的方差存在，且 ，记 ，则对任意的 ，有
.
证 由切比雪夫不等式可得
.
因 ， ，故
，
而同时因为 ，所以
.
5.1.2 大数定律的几种形式
定理中的 称为马尔可夫条件.由定理5.2可知，当随机变量序列满足马尔可夫条件，且n充分大时，则n个随机变量的算术平均以接近于1的概率与其期望的算术平均值任意接近.在实际应用中，当我们知道一组随机变量满足马尔可夫条件时，可用这个随机变量列的算术平均作为对其期望平均值的一种估计.
5.1.2 大数定律的几种形式
定理5.3（切比雪夫大数定律） 设随机变量序列 两两不相关，它们的方差存在且具有公共的上界，即 ，则对任意的 ，有
.
证 由于 两两不相关，且 ，所以
，
满足马尔可夫条件，所以对任意的 ，有
.
5.1.2 大数定律的几种形式
特别地，当随机变量序列 相互独立（或两两不相关），且有相同的期望 和方差 时，由于 ，所以对任意的 ，有
，
即 的算术平均 当 时依概率收敛到它们的期望 (常数).
这一结论对独立同分布(i.i.d.)且期望、方差有限的随机变量列也是成立的.若把这个分布确定为(0-1)分布，可得伯努利大数定律的另外一种证明方法.
5.1.2 大数定律的几种形式
定理5.1（伯努利大数定律）
证 （方法二）令
其中 ，则 独立同分布，都服从(0-1)分布，其分布列为
，
所以 ， ，且 ，由切比雪夫大数定律，有
在切比雪夫大数定律中要求方差存在，实际上这一要求可以去掉，相应的结论依然成立.
5.1.2 大数定律的几种形式
定理5.4（辛钦大数定律） 设随机变量序列 独立同分布，且具有期望 ，则对任意的 ，有
.
其证明方法已超出本书范围，故证明从略.
这个大数定律表明，独立同分布随机变量的算术均值 依概率收敛到它们的期望 .这为估计期望值提供了一个切实可行的方法.若视为重复试验中对随机变量X的第i次观测，则当n无限增大时， 能以较大的概率接近EX的值.这个结论为第7章中的矩估计提供了理论依据.
5.1.2 大数定律的几种形式
例5-1 设随机变量 独立同分布，其中期望 ，方差 ，则当 时， 依概率收敛于________； 依概率收敛于________.
解 由于 独立同分布，从而函数, 也独立同分布，且它们的期望 ，由辛钦大数定律得
.
同理，函数 也独立同分布，且它们的期望
,
故
.
5.1.2 大数定律的几种形式
例5-2 设随机变量 相互独立，若
，
，
问随机变量列 是否服从大数定律？
解 因为随机变量列 不是同分布的，所以辛钦大数定律不适用.故用切比雪夫大数定律来判断，易得 ， ，故
.
所以，随机变量列 满足切比雪夫大数定律的条件，从而 服从大数定律.
5.1.2 大数定律的几种形式
5.2 中心极限定理
本节将讨论在一定条件下，相互独立的随机变量之和近似服从正态分布，这里仅给出两个最常用的中心极限定理.
5.2 中心极限定理
定理5.5 （林德伯格-列维中心极限定理） 设随机变量列 独立同分布，且具有有限的期望和方差 ， ， .则随机变量
的分布函数 对于任意的x满足
.
证明从略.
通过定理5.5的结论可知：
（1）当n充分大时， 近似地服从标准正态分布，即
.
（2）注意到定理中的 实际是随机变量之和 的标准化，故上述定理可描述为：独立同分布随机变量之和 所形成的随机变量列，当n充分大时，近似地服从正态分布，即
.
（3） 是 的标准化，故上述结论又可写成，当n充分大时，
或 .
特别地，当 独立都服从（0-1）分布时，可得如下结果：
5.2 中心极限定理
定理5.6（棣莫弗-拉普拉斯中心极限定理） 设随机变量 ，则对任意x，有
.
证 由定理5.1的证明方法二可知任意一个服从二项分布的 随机变量，都可分解为n个相互独立且服从参数为p的（0-1）分布的随机变量 之和.即存在随机变量 ，分布列为 ，期望 ，方差 ，使得 .利用定理5.5即可得到
.
5.2 中心极限定理
这个定理表明，正态分布是二项分布的极限分布.当n充分大时，可利用正态分布来近似计算二项分布的概率.
5.2 中心极限定理
例5-3 计算机在进行加法计算时，对每个加数取整（取最接近它的整数），设所有取整误差是相互独立的，且都服从 上的均匀分布.若将1 200个数相加，问误差总和的绝对值不超过15的概率是多少？
解 设 为第i个加数取整后的误差，则 ，因而 .由定理5.5知 ，故
5.2 中心极限定理
例5-4 设电站供电网有10 000盏灯，夜晚每一盏灯开灯的概率为0.8，而假定开、关时间彼此独立，估计夜晚同时开着的灯数为7 950~8 100盏的概率.
解 设随机变量X表示在夜晚同时开着的灯的数目，则 ，由定理5.6知 ，故
5.2 中心极限定理
例5-5 设某保险公司有10 000人投保医疗保险，每人每年支付保费170元.在一年中每个投保人员生病的概率为0.006，生病时可向保险公司领取2万元.
（1）求保险公司从该项医疗保险中获得的年利润不少于20万的概率.
（2）问保险公司在该项医疗保险中不亏本的概率是多少？
解 设随机变量X表示一年中投保人员生病的人数，则 ，由定理5.6知 ，保险公司的利润为 .
（1）
（2）
由上述例子可见，保险公司亏本的概率几乎为零.
5.2 中心极限定理
例5-6 为了测量某种电子元件的平均使用寿命 ，决定利用多次测量结果的平均值 作为 的估计，其中 分别是n个元件测量的结果.若 .为使 对 的估计精度在之间的概率大于0.99，问至少要独立的测量多少个电子元件？
解 可认为 是独立同分布的随机变量，由定理5.5知 ，依题意要求
，
从而
即
，
查附表2可得 ，故 .所以至少应独立的测量106个电子元件.
5.2 中心极限定理
习 题 5
1.选择题
（1）设 为独立同分布随机变量序列，且 服从参数为的指数分布，则（ ）成立.
(A） （B）
（C） （D）
习 题 5
（2）设 为独立同分布随机变量序， , , ,
.对任意的 ，正确的是（ ）.
（A） （B）
（C） （D）
习 题 5
2.某车间有同种机床200台，每台机床工作的概率为0.7，假定各机床是否工作相互独立，每台机床工作时需用电15个单位.问至少供电多少单位才能以95%的概率保证不致因供电不足而影响生产.
3.设有30个电子元件，它们的使用寿命 服从参数 的指数分布，其使用情况是若第一个损坏则第二个立即使用，以此类推，令T为30个元件使用的总计时间，求T超过350 h的概率.
4.一个螺丝钉的重量是一个随机变量，期望值为100 g，标准差为10 g，求一盒（100个）同型号螺丝钉的重量超过10.2 kg的概率.
习 题 5
5.对敌人的防御地进行100次独立轰炸，每次轰炸命中目标的炸弹数目是一个随机变量，其期望值是2，方差为1.69.求在100次轰炸中有180~220颗炸弹命中目标的概率.
6.独立地多次测量一个物理量，每次测量产生的随机误差都服从区间 内的均匀分布.
（1）若将n次测量的算术平均值作为测量结果，求它与真值的差的绝对值小于一个小的正数的概率；
（2）当 时，要使上述概率不小于0.95，问至少要进行多少次测量
习 题 5
7.某单位有200台分机电话，每台使用外线的概率为0.15，若每台分机是否使用外线是相互独立的.问该单位电话总机至少需要安装多少外线，才能保证每台分机呼叫外线成功的概率为95%.
8.设随机变量 相互独立且同分布， ，求 .
谢谢观看

展开更多......

收起↑