资源简介

(共23张PPT)
第七章 参数估计
7.2 估计量的评判标准
内容摘要：利用随机变量的均值和方差, 讨论了估计量的三个常用的评判标准——无偏性、有效性和一致性. 在数据处理中，无偏性和有效性更为实用.
7.2 估计量的评判标准
7.2.1 提出问题
对于总体的同一个未知参数, 由于采
用的估计方法不同, 可能会产生多个不同的估计量. 这就提出了一个问题： 当总体的同一个参数存在不同的估计量时, 究竟采用哪一个更好呢
7.2.2 预备知识
数学期望及其性质，方差及其性质，依概率收敛.
定义1 若估计量 的数学期望 存在, 且对于任意 有
则称 是 的无偏估计量.
1. 无偏性
我们希望估计量在未知参数真值附近摆动, 即它的数学期望等于未知参数的真值, 这就导致无偏性这个标准的产生.
7.2.3 建立理论
讲评 无偏性要求可以改写为 , 这表示无偏估计没有系统偏差. 当我们使用 估计θ 时，由于样本的随机性， 估计θ总是 有偏差的，这种偏差时而(对某些样本观测值)为正,时而(对另一些样本观测值)为负，时而大，时而小. 无偏性表示，把这些偏差平均起来其值为0，这就是无偏估计的含义. 而若估计不具有无偏性，则无论使用多少次，其平均也会与参数真值有一定的差距，这个差距就是系统误差.
证
因而
由于
例7.2.1 设总体X的k阶矩 存在, 又设 是来自总体X的一
组样本. 试证明不论总体服从什么分布, 样本
k阶矩 是总体阶矩的无偏估计量.
所以, 样本k阶原点矩是总体参数 k——总体 k 阶原点矩——的无偏估计量.
讲评 不管总体服从什么分布, 只要总体的数学期望存在, 样本均值总是总体均值的无偏估计量. 这个结论可以当作定理应用.
例7.2.2 设总体X的方差 存在， 是来自X的样本, 试证明:
(1) 样本二阶中心矩 不是总体方差 的无偏估计量;
(2) 统计量 是总体方差的无偏估计；
(3) 样本方差 是总体方差 的无偏估计量；
(4) 样本标准差S不是总体标准差σ的无偏估计量.
由假设方差 存在，可设
总体X的数学期望 .
证
(1) 由6.2节定理1的结论(1)知
所以
（2）
(3) 因为 , 所以，
（4）
讲评 我们可以把样本二阶中心矩B2作为总体方差D(X)=σ2的估计量,但它不
是方差D(X)的无偏估计量,而样本方差S2才是方差D(X)的无偏估计量. 这就是我们定义
而不是定义
的根本原因.
证
例7.2.3 设总体服从X参数为θ的指数分布, 其概率密度为
其中参数θ>0为未知, 又设X1, X2, …,Xn是来自总体X的一组样本. 试证明: 样本均值 和 都是总体均值的无偏估计量.
已知总体X均值
因为
所以 是总体均值的无偏估计量.
参见3.4节例3.4.5可以得到服从参数为 的指数分布, 所以
于是也成立
即nZ也是总体均值的无偏估计量.
由此可见, 一个总体未知参数可以有不同的无偏估计量.
讲评 一个未知参数的无偏估计量不一定是唯一的, 它可以有许多无偏估计量. 事实上, 在本例中， 中的每一个都可以作为θ的无偏估计量.
2. 有效性
一个参数的无偏估计量不是唯一的.
假若参数θ有两个无偏估计量,我们认为其观测值更密集在参数θ真值附近的一个较为理想. 由于方差是随机变量取值与其数学期望的偏离程度的度量, 所以无偏估计以方差小者为好. 这就引出了估计量的有效性这一概念.
则称 比 更有效.
且至少存在某一个 使上式中的不等号成立,
定义2
设
都是总体参数 的无偏估计量, 若对于任意
有
讲评 (1) 一定要注意，在“无偏”的前 提下，再深入研究“有效性”，这样做才
符合实际问题的要求.
(2) “有效性”的实际意义是：方差越小的估计量, 它的取值越集中, 从而它的取值越接近于总体待估参数的真值.
例7.2.4 已知条件如例7.2.3. 试证明： 当n>1时, 总体均值的无偏估计量 较 另一个无偏估计量nZ有效.
证
由于 , 故由6.3节定理1的结论(1)有
又因为Z服从参数为 的指数分布,所以
故有
可见, 当n>1时,
也就是说, 无偏估计量 较nZ有效.
3. 一致性(相合性)
参数估计的无偏性与有效性都 是在样本容量n固定的前提下提出 的, 我们还希望随着样本容量的 增大, 估计量的值稳定于未知参数的真值. 因此, 我们又提出了一致性(相合性)的概念.
则称
是总体参数 的一致(或相合)估计量.
依概率收敛于 , 即
定义3 设 总体
参数 的估计量. 若对于任意的 ,
当n 时,
例7.2.5 设 是来自总体X的样本,总体X的方差 存在. 试证明
与
都是方差D(X)的一致估计量.
所以,我们证得S2,B2都是D(X)的一致估计量.
证 由6.2节定理1的结论(4)知,
讲评 一致(相合)性也是对一个估 计量的最基本要求. 若估计量不具有一 致(相合)性, 那么不论将样本容量n取得 多么大, 都不能将总体待估参数估计得足够准确, 这样的估计量是不可取的. 但是，在实际应用上,人们很少考虑“一致性”,因为它要求“试验次数n要充分地大”, 这是很难达到的.
上述无偏性、有效性、一致性是评判估计量的一些基本标准, 其它的标准这里不再讲述.
7.2.4 内容小结 当总体的同一个参数存在不同的估计
量时, 究竟采用哪一个更好呢 这涉及到用什么
样的标准来评价估计量的“好坏”问题．
从系统误差的角度, 我们学习了无偏性标准. 无偏估计量不唯一. 从取值集中的角度, 我们学习了有效性标准，有效性要在无偏性的前提下讨论. 考虑估计量的稳定性，我们提出了一致性的标准.

展开更多......

收起↑