资源简介

(共41张PPT)
第六章----第八章知识结构图
数理统计
抽样分布
统计推断
常用的
统计量
四个重
要分布
参数估计
假设检验
正态总体的样本均值与方差的分布
(重要统计量的分布)
矩
估
计
法
点估计
区间估计
极大
似然估计法
均值的区间估计
方差的区间估计
均值的检验
方差的检验
单个
总体
两个
总体
正态总体
总体
样本
统计量
描述
作出推断
研究统计量的性质和评价一个统计推断的
优良性，完全取决于其抽样分布的性质.
随机抽样
第七章 参数估计
利用从总体抽样得到的信息来
估计总体的某些参数或者参数
的某些函数.
估计废品率：
估计新生儿的体重：
估计湖中鱼数
… …
估计降雨量
在参数估计问题中，假定总体分布形式
已知，未知的仅仅是一个或几个参数.
参数估计问题:
例如：
这类问题称为参数估计.
参数估计问题的一般提法
X1, X2, …, Xn
其中 为未知参数 ( 可以是向量 ) 。现从该
设有一个总体 X ，总体的分布函数为
总体抽样，得样本：
所研究的问题：
参数估计问题
的分类
参数估计
点估计
区间估计
要依据该样本对参数 作出
估计，或估计 的某个未知的函数
则估计 为1.68 ----- 这是点估计问题。
估计 在区间 [ 1.57, 1.84 ] 内 ----这是
区间估计问题
现要估计某班男生的平均身高。假定身高服从正态分布
现从该总体选取容量为 5 的样本，所研究的
问题是要根据选出的样本（5个数）求出总体
均值 的估计。
例如
而全部信息就由这 5 个数组成 。设这 5 个数
是：1.65，1.67，1.68，1.78，1.69
解决问题：
总体 X 的分布函数的形式已知，但它的一个或多个参数未知，根据总体X的一个样本来估计总体未知参数或对总体未知参数作出一个估计。
一. 估计量的定义
定义：
第一节 点 估 计
称为 的估计量。
设 为总体X 的分布函数 中的待估
计的参数,
是总体 X 的一个样本，
用 构成的一个统计量：
则
为 的估计值.
二. 构造统计量的方法
1. 矩估计法 ( 数字特征法 )
用样本的各阶矩来估计总体的各阶矩.
的一组样本值为：
如果
矩估计法是由统计学家卡. 皮尔逊（K. Pearson）
在19世纪末引入的。
矩是描写随机变量最简单的数字特征，
由大数定律可知，
在一定条件下可以用样本的矩
作为总体矩的估计.
故得矩估计法的基本思想：
矩估计法的具体步骤
设总体 X 的分布函数 中含有
个未知参数 ，
存在，
则可通过下列步骤求未知参数的矩估计量:
(1)
求总体 X 的前 阶矩
若总体 X 是离散型随机变量，其分布律为：
则：
假定总体 X 的前 阶矩
则：
总之，
是参数 的函数，
记为：
若总体 X 是连续型随机变量，其密度函数为：
(2)
由（*）式解出 为：
(3)
用 的估计量 分别代替（**）
中的 则得 的矩估计量
▲
上述计算步骤对 阶中心矩也是成立的。
▲
矩估计法的优缺点：
矩估计法并不要求知道总体分布的具体
形式就能对总体的数字特征作出估计
矩估计法要求总体的矩存在，若总体的
矩不存在则矩估计法失效；
优点：
缺点：
对某些总体的参数矩估计量不唯一，这在应用时会带来不利；
对某些总体的参数矩估计量有时不合理.
矩估计法只是利用了矩的信息而没有充分利用总体分布函数的信息;
注
展开为不超过总体 阶原点矩的函数。
因为 阶中心矩总可以通过展开的方法
例 1.
设总体X的均值为 方差为 都存在，且
是总体 X 的一个样本
(2). 当总体(某种灯泡寿命) ，
未知，今取 4 只灯泡， 测得其寿命（小
时）如下：
1502, 1453, 1367, 1650 （小时）
求： 的矩估计值
(1). 均未知, 求: 的矩估计量
解:
总体 X 的数学期望是 X 的一阶原点矩；
总体 X 的方差是 X 的二阶中心矩。
(1).
现令
一阶样本原点矩
二阶样本原点矩
即
解之得:
解之得:
从而得 的矩估计量为：
不论总体服从什么分布，总体均值
与方差的矩估计量的表达式是相同的
结论：
(2).
某种灯泡寿命的均值与方差的
矩估计值分布为:
设 X1, X2, … Xn 是取自总体 X 的一个样本，
其概率密度为：
其中 为未知参数，
例 2.
求： 的矩估计量.
由密度函数可知：
具有均值为 的指数分布，
解:
故有：
即：
令：
用样本矩估计
总体矩
解得：
即为总体参数 的矩估计量
2. 极大似然法
极大似然法是在总体类型已知条件下使用的一种参数估计方法 。
它首先是由德国数学家高斯（ Gauss）在 1821 年提出的 。
Fisher
然而，这个方法常归功于英国
统计学家费歇（ Fisher ），
费歇在 1922 年重新发现了这一方法， 并首先研究了这种方法的一些性质 。
Gauss
极大似然法的基本思想
引例
若某位同学与一位猎人一起
外出打猎 。
试推测：这是谁打中的呢 ？
因为只发一枪便打中，猎人命中的概率一般大于这位同学命中的概率。于是可推测这一枪是猎人射中的 .
一只野兔从前方窜过，只听
一声枪响，野兔应声倒下 。
引例体现了极大似然法的基本思想 ：
当试验中得到一个结果时，应选择使得这个试验结果出现的概率达到最大的这个值作为参数的估计值
注
定义:
作似然函数：
(1). 极大似然估计量的定义
是相应于样本
的一组样本值。
其中：
设总体X的概率密度函数为
或分布律为
为未知参数。
或
又设
使得似然函数 L 达到极大值的
或
称为参数 的极大似然估计值，记为：
为参数 的极大似然估计量.
(它与样本值有关)，
记统计量：
或 随机点
似然函数 L 是随机点 落在
▲
▲
似然函数 L 是 的函数。
注
的邻域内的概率；
点
的概率。
取到
边长分别为
的 n 维立方体
思路:
从而此问题就转化为一般求函数的最大值问题
(2). 极大似然法的具体步骤
现要求
即求 取什么值时函数 L
即其随机点 落在
的邻域内的概率,
取到
的概率最大。
的最大值，
达到最大。
或 随机点
具体步骤
(1)
作似然函数
(2)
当似然函数可微且 的最大值能在参数空间
若解为 ，
▲
因为 与 有相同的最大值点，
或
注
求方程组: 的解，
取得时，
则 为极大似然估计量（值）。
而且对数函数是单调增的，
求
比求
方便，
所以常取
似然函数为
▲
按照求函数极值的方法，在求方程组：
的解后还应该用极值的
充分条件对解做进一步的判断；
▲
当似然函数不可微或方程组无解时，
▲
极大似然估计法适用于多个未知参数的情形。
但又由最值原理，如果最值存在，此方程组求得的驻点即为所求的最值点。极大似然估计法一般属于这种情况，所以可直接按步骤(2)求的其值。
极大似然估计量。
则应根据
定义直接寻求能使 达到最大值的解作为
例3.
求: 的极大似然估计量.
是 X 的一个样本值.
设 为未知参数，
解:
的密度函数为：
作似然函数：
为计算方便对 L 两边取对数得:
令：
解得所求为:
与矩估计法所得的的结论是一致的（见例1）
例4.
设 为参数都是未知的正态总体的
一个样本
求: 的极大似然估计
解:
未知
由例 3可知： 的极大似然估计为
的极大似然估计为
的极大似然估计为：
其中:
设 X1, X2, … Xn 是取自总体 X 的一个样本，其密度函数为：
其中
求 的极大似然估计.
例5.
作似然函数：
则对数似然函数为：
对上式求导并令其为零，得：
从中解得：
解：
(3). 性质
且具有单值反函数
又设 是 X 的概率
密度函数 中参数 的极大似然估计，
证:
是 的极大似然估计。
则
是 的取
值范围
是
的极大似然估计
又
是
的极大似然估计
上式可写为:
即表明：
是 的极大似然估计
此性质对总体 X 中含有多个未知参数时也成立.
注
一. 无偏性
则称 是 的无偏估计量.
第二节 估计量的评选标准
估计量是随机变量，对于不同的样本值会得到不同的估计值 。如果希望估计值在未知参数真值附近摆动，而它的期望值等于未知参数的真值。
定义：
设 是 的估计量，若 存在，且
对任意的 有：
这就引出无偏性这个评选标准
在科学技术中称 为以 作为 的
估计的系统误差。则无偏估计即无系统误差。
无偏性的实际意义是指没有系统性的偏差 。
它是用数学期望衡量其靠近真值的程度。
用样本均值作为总体均值的估计时，虽无
法说明一次估计所产生的偏差，但这种偏
差随机地在“0”的周围波动，则对同一统计
问题大量重复使用不会产生系统偏差 。
例如：
注
例1.
设总体 X 的均值 , 方差 都存在 ，若
证明:
的两个估计量
前者是有偏的，后者是无偏的。
证明:
是有偏的.
数学期望的性质
（样本方差）
是无偏的。
又
结论:
样本均值、样本方差作为总体均值、总体方差的估计量是无偏的，它要比矩估计法，极大似然估计法出来的统计量更接近于真值。
二. 有效性
注意到，一个参数往往有不止一个无偏估计量,
又由于
这就引出有效性这个评选标准。
者谁更优 。
则可通
所以：一般可取样本均值与方差作为
总体均值与方差的估计量。
和
都是参数 的无偏估计量，
若
和
过比较
的大小来决定二
定义：
的无偏的估计，且两个样本的容量相等。
设 与
都是
则称 较 有效。
有效性指的是在同是 的无偏估计量的前提下,
希望估计值与真值的偏离程度越小越好。
注
若：
一般称方差愈小的估计量愈有效
例 2.
求: 与 哪个作为 的无偏估计更有效？
解:
且显然
若总体 X 的均值为 方差 ，但均为未
知，现有两个 的无偏估计量 ：
用 作为 的估计量更有效。
三. 一致性 (相合性)
注意到，无偏性和有效性都是在样本容量 n 固定的前提下提出的。当样本容量 n 增大时自然希望估计量对未知参数的估计更精确；
再注意到，在无偏估计类中所讨论的是以估计量
的方差的大小作为衡量估计量为“最优”的准则。
另外，有偏与无偏是反映估计量的数学期望是否
等于被估计的参数的真值；方差的大小是反映估计量的观测值与被估计的参数的真值的离散程度。
但是无偏估计类中方差为最小或较小的估计量不一定比某个有偏的估计量的方差来的小；
如果希望在偏差性与离散性两者兼顾的原则下建立估计量为“最优”的准则，这就引出相合性的概念.
则称 为 的一致估计量 (相合估计量)
一般，一致性（相合性）是要在样本容量相当大时才能显示出其优越性。但这在实际中很难做到。因此在工程中经常使用的是无偏性和有效性这两条衡量估计量为“最优”的准则。
定义：
设 为参数 的估计量，若对于任意的
当 时 依概率收敛于
但值得指出的是：若估计量不具有相合性，那么
不论将样本容量 n 取的多大，都不能使得待估计
量估计的足够准确。
即：
注

展开更多......

收起↑