资源简介 概率论与数量统计 大数定律和中心极限定理 第五章 我们知道,随机事件发生的频率具有一定的统计规律性,即随着试验次数的增加,频率逐渐逼近并稳定于一个常数,这就是事件发生的概率。实际上,大量随机现象和的平均结果一般也具有概率稳定性,即大量随机现象共同作用产生的平均结果,无论每个随机现象具有什么特征,其概率分布都几乎是确定的,与每个随机现象服从的概率分布无关。例如,一个班的学生的平均考试成绩由全班几十名同学的成绩共同确定,我们知道,这个量的波动程度非常小;一个城市的耗电量是大量用户的耗电量之和,尽管各用户的用电情况不同,但城市的总用电量随时间变化的曲线却几乎每天都相同。 概率论中用来阐明大量随机现象和的平均结果的概率稳定性的一系列定理,称为大数定律(law of large numbers)、大数定律揭示了随机现象的偶然性与必然性之间的联系。中心极限定理(central limit theorem)是用来描述随机变量和的概率分布变化趋势的一系列定理,并因这个问题长期处于概率论研究的中心地位而得名。 01 大数定律 大数定律 01 在前面学习概率的定义时,我们就知道了一个事实,即随机事件发生的频率随着试验次数的增加逐渐稳定于概率,但仅根据现实生活里的一些可观察的随机事件做了表面说明,并未从根本上加以理论证明。 在例1.2.1中,我们看到频率????????(????)逐渐稳定于p=0.67。为从理论上探讨这个问题,此处引入随机变量 可以看出,????????为n个随机变量和的算术平均,仍为随机变量,表示n次抽样抽出次品的频率值????????(????)为独立进行n次抽样后????????的取值。 ? 大数定律 01 设A:抽取正品,P(A)= p 。现抽取n次,若能够证明当n→+∞时,A发生的频率????????稳定于p=0.67,也就证明了当n→+∞时????????(????)稳定于p=0.67。这种稳定性是否可用高等数学中讨论的数列收敛来描述呢?即判断是否有 根据数列收敛的定义,上式成立白多伪容可翻译意正数????,当n足够大时,总有|?????????????|< ????。由于事件A发生具有随机性,因此上述条件显然是不能实现的。可以想象,若进行了n次抽取,无论n多大,则n次全部都是次品这种现象都可能发生。在n重伯努利试验中,事件A一次也未出现的概率可由伯努利公式求得,即 于是在这种情况下,对任何0???? 大数定律 01 尽管如此,我们注意到 即随着n的增大,事件A在n次试验中一次也不出现的概率趋向于零。这使我们想到是否会有:对任意????>0 , 即 上式说明当n→+∞时,????????→p的概率为1。 ? 大数定律 01 历史上,伯努利首先从理论上证明了在上述极限意义下,事件的频率以其概率为极限,这样概率的定义就有了现实意义,而且在实际问题中,我们通常以事件发生的频率近似代替其概率,也就有了理论依据。于是有了下面的依概率收敛的定义。 定义5.1 设????1,????2,···,????????,···是一个随机变量序列,α是一个常数,若对于任意正数????,有 则称序列????1,????2,···,????????,···依概率收敛于α,记为????????????????。 定理5.1(伯努利大数定律)设事件A在每次试验中出现的概率为????(????),将试验独立地进行????次,记????????为事件A出现的次数,则对于任意的整数????,有 ? 大数定律 01 定理5.1的证明过程 证明:记????(????)=????,则????????~????(????,????),故 数学期望和方差的性质,有 于是根据切比雪夫不等式,便得 即 ? 大数定律 01 定理5.2(切比雪夫大数定律)设{????????}是一列相互独立的随机变量,若存在常数C,使????(????????)≤????(????=1,2,···),则对于任意正整数????,有 定理5.3(辛钦大数定律) 设相互独立的随机变量????1,????2,···,????????,···有相同的分布,且????(????????)=????,????=1,2,···,则对于任意正整数????,有 ? 大数定律 01 定理5.2的证明过程 证明:由于????1,????2,···,????????,···相互独立,那么对于任意的????>1,????1,????2,···,????????,···相互独立,于是有 令 ,则由切比雪夫不等式有 令????→+∞,则有 即 ? 大数定律 01 切比雪夫大数定律表明,在所给条件下,当n→+∞时,n个随机变量的算术平均值几乎变成一个常数,这和我们日常的经验一致。例如用不同的方法观测一个物理量a共n次,得测量值????1,????2,···,????????。这可视为n个独立随机变量????1,????2,···,????????所取的值,每个值都具有随机性,但常取 这是因为 它表明,当n很大时, 是一个很小的量。因此,平均值 将比较密集地 聚集在它的数学期望周围,这正是 切比雪夫大数定律所阐明的意义。 ? 02 中心极限定理 中心极限定理 02 大数定律指出,对任意一列独立随机变量{????????}, 但是对于固定的????和????, 即 究竟有多大呢?大数定律并未回答这个问题。它所涉及的是,当????→+∞时,????个随机变量 的和 服从什么分布的问题。 ? 中心极限定理 02 下面的定理称为林德伯格-列维(Lindeberg-Levy)中心极限定理,也称独立同分布的中心极限定理。 定理5.4 设????1,????2,···,????????,···是一列相互独立的随机变量,它们服从相同的分布,且数学 期望和方差均有限,令 则????????的标准化随机变量的分布函数????????(????)对于任意????均满足 式中,中Φ(????)是标准正态分布的分布函数。 ? 中心极限定理 02 定理5.5[德莫佛-拉普拉斯(De Moivre-Laplace)定理] 设随机变量????????~????(????,????),????=1,2,···,则 【例1】一加法器同时收到20个噪声电压????????,???? =1,2,…,20,设它们是相互独立的随机变 量,且都在区间(0,10)上服从均匀分布。记 求????{????>105}的近似值。 ? 中心极限定理 02 解:易知????(????????)=5,????(????????)=10012=253,????=1,2,···,20。由定理5.4,随机变量 近似服从标准正态分布,于是 即有 ? 中心极限定理 02 【例2】某射手射击,得分数X的概率分布为 设射击100次,试求总分不超过930分的概率。 中心极限定理 02 【例3】设有30个电子元件,其寿命分别为随机变量????1,????2,···,????30,它们都服从参数为λ=0.1?的指数分布,这30个元件在使用中处于备用状态,即第一个损坏后马上启用第二个,求由这30个电子元件所组成的装置的使用寿命不少于350h的概率。 ? 中心极限定理 02 【例4】某工厂生产的某种产品,其次品率为0.01,今取500个并装一盒,求一盒中次品不多于9个的概率。 中心极限定理 02 【例5】某医院试用某种新药治疗一种疑难病症,抽查100个服用此药的病人,若其中多于75人治愈,则承认这种新药有显著疗效,接受这种药品.假设实际上此药品对这种疾病的治愈率为0.7,问医院接受这种新药的概率是多少﹖要想以0.9以上的概率保证治愈人数多于75人,问此药品对这种疾病的治愈率应为多少? 中心极限定理 02 【例5】某医院试用某种新药治疗一种疑难病症,抽查100个服用此药的病人,若其中多于75人治愈,则承认这种新药有显著疗效,接受这种药品.假设实际上此药品对这种疾病的治愈率为0.7,问医院接受这种新药的概率是多少﹖要想以0.9以上的概率保证治愈人数多于75人,问此药品对这种疾病的治愈率应为多少? 中心极限定理 02 【例5】某医院试用某种新药治疗一种疑难病症,抽查100个服用此药的病人,若其中多于75人治愈,则承认这种新药有显著疗效,接受这种药品.假设实际上此药品对这种疾病的治愈率为0.7,问医院接受这种新药的概率是多少﹖要想以0.9以上的概率保证治愈人数多于75人,问此药品对这种疾病的治愈率应为多少? 中心极限定理 02 *定理5.6[李雅普诺夫(Liapunov)定理] 设????1,????2,···,????????,···是一列相互独立的随机变量,????(????????)=????????, ????(????????)=????????2,????=1,2,···。记 若存在常数????>0,使 则 式(5.11)称为李雅普诺夫条件。定理5.6指出,在李雅普诺夫条件下, 的概率分布趋近于标准正态分布。 ? 感谢观看,再见! 概率论与数量统计 展开更多...... 收起↑ 资源预览