资源简介

(共25张PPT)
第七章
参数估计
第七章 参数估计
第1节 点估计
第2节 区间估计
第1节 点估计
若总体X的分布函数F(x)的类型已知，但它的一个
或多个参数未知,如何估计总体的未知参数？
这里的参数可能是分布中的未知参数,也可能是未
知参数的函数,或者是分布中的各种特征数.
一般常用θ表示参数，参数θ所有可能取值组成的
集合称为参数空间，常用Θ表示.
参数估计问题就是根据样本对上述各种未知参数作
出估计.
参数估计的形式有两种：点估计与区间估计.
第1节 点估计
一、点估计的概念
二、求点估计的两种方法
三、估计量的评价标准
一、点估计的概念
如何构造统计量 并没有明确的规定，只要它满足一定的合理性即可.这就涉及到二个问题.
设X1 ,X2 , …, Xn是来自总体的一个样本，我们用一
个统计量 去估计θ，称
为θ的 点估计（量），简称估计. 对于得到样本的一组
观测值x1 ,x2 , …, xn,估计量的值 称为θ的
估计值.
1. 如何给出估计，即估计的方法问题.
2.如何对不同的估计进行评价，即估计的好坏判断标
准.
引例已知某地区新生婴儿的体重X~
随机抽查100个婴儿
…
得100个体重数据
10, 7, 6, 6.5, 5, 5.2, …
呢
据此,我们应如何估计
和
而全部信息就由这100个数组成.
二、求点估计的两种方法
我们知道,服从正态分布
由大数定律,
自然想到把样本体重的平均值作为总体平均体重的一个估计.
类似地，用样本体重的方差
用样本体重的均值
样本体重的平均值
使用什么样的统计量去估计 ？
问题是:
它是基于一种简单的“替换”思想建立起来的一种估计方法 .
英国统计学家K.皮尔逊最早提出 .
1. 矩估计法
矩估计法：是用样本矩估计相应的总体矩，
用样本矩的函数估计总体矩的同一函数的
一种估计方法。
理论根据：大数定律或格利文科定理
二、求点估计的两种方法
总体矩 总体矩的估计值 样本矩
=
=
显然
解：设(X1,…,Xn)为X的一个样本，
解得m , s 2 的矩估计量分别为
即
依题意知 E(X)= m , D(X)= s 2，
据矩估计法有
例1．设总体X~N(m , s 2 )，试求m , s 2的矩估计量.
解：设(X1,…,Xn)为X的一个样本，
解得q1 , q2的矩估计量为
即
依题意知
据矩估计法有
例2．设总体X~U[q1 , q2] ，试求q1 , q2的矩估计量.
例3 设总体的概率分布为：
其中θ（0<θ<1/2）是未知参数，利用总体X的如下样
本值3,1,3,0,3,1,2,3;求θ的矩估计值.
解：E(X)=0×θ2+1 ×2θ(1-θ)+2 × θ2 +3 × (1-2θ)
=3-4θ
令
即：3-4θ=2, 解得θ的矩估计值为
二. 最大似然估计
最大似然估计法是求估计用的最多的一种方法，最早由高斯(R.A,Gauss)提出，后来为费史（Fisher)在1912年重新提出，并证明该方法的一些性质．它是建立在最大似然原理基础上的一个统计方法．
1.最大似然原理
若一个随机试验有若干种可能的结果A，B，C，…．
若在一次试验中，结果A出现，则一般认为试验条件对
A出现有利，也即A出现的概率很大．
引例1．设有外形完全相同的两个箱子，甲箱有99个白球1个黑球，乙箱有1个白球99个黑球，今随机地取出一箱，再从取出的一箱中抽取一球，结果取得白球，问这球是从哪一个箱子中取出的？
引例2 设总体的概率分布为：
其中θ（0<θ<1/2）是未知参数，利得到总体Ｘ的如下
样本值3,1,3,0,3,1,2,3; 利用最大似然原理求θ的估计值.
解：由于抽样的随机性,样本X1,X2,…,X8 ,样本值的取值有48中可能, 现抽样一次得到样本值3,1,3,0,3,1,2,3, 其出现的可能性为(与θ有关)
（0<θ<1/2）
由最大似然原理知: θ取值要有利于上述的样本值的出现.
利用微积分的知识得当 达到最大值,所以
θ的最大似然估计为
2.最大似然估计
定义6.1.1 设总体的概率函数为f(x; θ)，Θ是参数
空间, x1 , x2 , …, xn是样本，将样本的联合概率函数看
成θ的函数，用L(θ;x1 , x2 , …, xn) 表示，简记为L(θ)，
称为样本的似然函数.
如果某统计量 满足
则称 是θ的极大似然估计，简记为MLE
（Maximum Likelihood Estimate）.
注 1) 当参数空间Θ是开区间、L(θ) 可微时,往往转
化为求L(θ)的驻点, 人们通常更习惯于由对数似然函
数lnL(θ)出发寻找θ的最大似然估计. 此时对对数似
然函数求导更加简单些。
2) 在某些情况下,需要由定义求出最大似然估计.
求最大似然估计步骤
(2) 求出使L(θ)达到最大值的
(1)写出似然函数
即为θ的最大似然估计.
解：设x1,…,xn为样本的一组观测值，于是似然函数为：
两边取对数得，
对λ求导数，并使其等于0得，
解这一方程得λ的最大似然估计为：
比如，样本观测值为：10，13，65，18，79，42，65，77，88，123，n=10。则，
例5．X~P(λ)，求λ最大似然估计.
例6 已知总体X的概率密度为
θ>0其中未知参数，设
是来自于总体X的样本
求θ的矩估计和最大似然估计量．
解：(１)由于X服从指数分布，得
由矩法估计
得
的矩估计为
（2）似然函数：
取对数
令
得
的最大似然估计为
所以
的最大似然估计量
例6．设总体X具有(0,θ] 均匀分布，密度函数为：
求未知参数θ的最大似然估计.
解：设x1,…, xn是取自这一总体的一个样本，似然函数为：
显然L是θ的一个单值递减函数。
每一个xi ( i=1,2,3 …,n),所以θ的最大似然
估计量为
例7 设正态总体N( , 2)，设有样本x1 , x2 , …, xn，
求 , 2的最大似然估计.
解：似然函数
对数似然函数
由
得μ，σ2的最大似然估计为：
三、估计量的评选标准
⒈一致性
则称
⒉无偏性
是θ的无偏估计量.
为未知参数θ 的估计量，
为未知参数θ的估计量序列，
设
对于任意ε>0, 有
则称 较
⒊有效性
设
为θ 的一致估计量.
设
若
则称
是θ 的两个无偏估计量，
若
有效.
A
B
C
D
提交
练习．设X1, X2, X3是来自均值为 总体的样本. 其中 未知，下列估计量（ ）是 的无偏估计量.
单选题
1分
例8 试证样本均值 及样本方差S2分别是总体均值μ及总体
方差σ2的无偏估计。
故 为μ的无偏估计量。
证明
，即S2为σ2的无偏估计量.
即样本的二阶中心距B2不是总体方差的无偏估计.
而
作业：139页
4, 6,7, 9

展开更多......

收起↑