资源简介

(共35张PPT)
第七章
第七章 参数估计
点估计
估计量的优劣性
一致最小方差无偏估计(UMVUE)
正态总体参数的区间估计
Bayes估计
什么是参数估计？
参数是刻画总体某方面概率特性的数量.
当此数量未知时,从总体抽出一个样本，用某种方法对这个未知参数进行估计就是参数估计.
例如，X~N( , 2),
若 , 2未知, 通过构造样本的函数, 给出
它们的估计值或取值范围就是参数估计
的内容.
点估计
区间估计
参数估计的类型
点估计 —— 估计未知参数的值
区间估计——
估计未知参数的取值范围，
并使此范围包含未知参数
真值的概率为给定的值.
7.1 点估计
称其为 的一个估计量，记为
注：F(x; )也可用分布律或密度函数代替.
定义 设X1,… ,Xn是总体X的一个样本，其分布函数
为F(x; ), 。其中 为未知参数, 为参数空
间, 若统计量g(X1,… ,Xn)可作为 的一个估计,则
若x1，… ，xn 是样本的一个观测值，
由于g(X1,… ,Xn) 是实数域上的一个点，现用它来估计 ， 故称这种估计为点估计。
点估计的经典方法是矩估计法(ME)
与极大似然估计法(MLE)。
称为参数 的估计值。
在不致混淆的情况下统称估计量与估计值
为估计，并都简记为
一、矩估计法（简称“矩法”ME）
设总体X的分布函数为F(x, ),
为k维未知参数,并设随机变量X的k阶矩存在，即
存在,
其基本思想是：以样本矩代替相应的总体矩。
矩估计是1900年英国统计学家K. Pearson 提出
的一种统计方法.
上述方程组的解即为参数 的矩估计，记为
注1.用样本矩作为总体同阶矩的估计，即
注2.约定：若 是未知参数 的矩估计，则g( )的矩估计为g( ).
例1：设X1,… ,Xn为取自总体B(1,p),的样本，其中0解: E(X)=p,
为参数p的矩估计.
解
例2 设总体X的概率密度为
其中 为未知参数，且 >0，试求 的矩估计.
的矩估计。
解:
例3：设X1,… ,Xn为取自
总体的样本，求参数
例4. 设总体X的概率密度为
解:
X1,… ,Xn为样本，求参数 的矩估计。
解:
由:
二、极大似然估计法
似然估计得到了广泛的应用。
极大似然估计最早是由高斯1821年提出的，但
一般将之归功于英国统计学家R.A.Fisher，因
为R.A.Fisher在1922年再次提出极大似然估计，
并证明了极大似然估计的一些性质，使得极大
命中了一发，谁射中的？
1、极大似然思想
有两个射手，一人的命中率为0.9,另一人的命
中率为0.1, 现在他们各向目标射击了一发，结果
假如甲乙两人仅对目标各射击了一次，结果甲击中，而乙未击中目标。请问谁的水平高？
请回答。
答：甲的技术好于乙。
这虽有片面性，但显然是合理的
又如一件事件A发生的概率为0.1或0.9，仅作一次试验，结果事件A发生了，自然认为事件A发生的概率为0.9，而不是0.1。基于上述基本思想，引入极大似然估计。
一般说，事件A发生的概率与参数 有关， 取值不同，则P(A)也不同。因而应记事件A发生的概率为P (A).若仅仅作了一次试验，结果A发生了，则认为此时的 值应是在 中使P (A)达到最大的那一个。
事件发生的概率为
若总体X是离散型随机变量，其分布律
i=1, 2, …
为待估参数.
是来自总体X的样本，若
是样本的
观察值，则
1 离散型
它是
的函数，称
为样本的似然函数.
由上面的讨论，在
取值的可能范围
内，应选择使概率
达到最大的
的估计，即使
作为
这样得到的
与样本值有关，
称为参数的极大似然估计(MLE)而相应的统计量为
例6.设X1,… ,Xn为取自参数为 的泊松分布总体的样本，求 的极大似然估计
解:
令
2. 连续型
若总体X是连续型的，其概率分布密度为
根据第二章随机变量性质知，随机
变量X落在(x, x+dx)中的概率近似为
设
是来自X的样本，则
落在(x1, x1+dx1)∩…∩(xn, xn+dxn)中的概率为
称
为样本的似然函数。
与离散型的情况一样，挑选使
达到
最大的
作为
的估计值，即使
的极大似然估计(MLE).
则称
为
注1 求极大似然估计的步骤
(1) 求似然函数
(2)求对数似然函数
(3) 列似然方程, 令
若该方程有解，则其解就是
特别地，若似然函数中含有多个未知参数，则可解方程组
的极大似然估计。
解:
例7：设X1,… ,Xn为取自
总体的样本，求参数
令
为 的极大似然估计.
g( ).
注2：极大似然估计具有下述性质：
若
是未知参数 的极大似然估计，g( )是
的严格单调函数，则g( )的极大似然估计为
例8 设X1,… ,Xn为取自参数为 的指数分布的总体的样本，a>0为一给定实数，求p=P{X解:
似然估计为
关于 单调.故若 的极大似然估计为
则p的极大
令
注3：由似然方程解不出 的似然估计时，可由定义通过分析直接推求。事实上 满足
例9 设X1,… ,Xn为取自U(0, ) 总体的样本， >0未知，求参数 的极大似然估计。
解:
令
无解!
注意到
小 结
极大似然估计法
矩估计法

展开更多......

收起↑