统计学-参数估计

, x n ;ˆ)
max
L ( x1 ,
, xn ; )
ˆ 与x1, , xn有关，记为ˆ ( x1, , xn);
称其为参数 的极 大 似 然 估 计 值。
ˆ(X1, , Xn)称为参数 的 这 种 求 未 知 参 数 的 方 法 称 为极 大 似 然 法。
一般而言，极大似然估计优于矩估计，因而在应用中， 应尽可能使用极大似然估计估计。
参数估计的概念： 估计量与估计值
参数估计的概念与特点
❖ 估计就是根据你拥有的（局部）信息来对 现实世界进行某种判断：
▪ 根据一个人的衣着、言谈和举止判断其身份； ▪ 根据一个人的脸色，猜出其心情和身体状况。
❖ 统计中的估计也不例外，它是根据样本的 数据对总体的数值属性做出的有科学依据 的判断。一般还会同时给出判断的准确程 度。
n
L(1 , 2 , , k ) F ( xi ,1 , 2 , k ) i 1
取得最大值的最大值点，以此作为（1, 2…… ,k )的估计。
（三）极大似然估计MLE
固定x1, , xn , 挑选使概率（似然度）L(x1, , xn ; )
达到最大的参数ˆ，作为 的估计值，即取ˆ 使得：
L ( x1 ,
n
(n 1)S 2 / 2 ~ 2 (n 1)
推断统计学
统计推断的过程
总体均值、 比例、方差
总体
样 描述
本
统计
样本统计量
（样本均值、比 例、方差）
小结：推断统计学 推断统计的主要类容
推断统计
参数估计(6)
估计总体参数
如抽样调查袋装食品 的重量后，估计平均 重量等
假设检验(7)
检验总体参数
如抽样调查袋装食品 的重量后，判断所标 注的重量是否真实
较大的样本容量
P(X )
B
x n
较小的样本容量
A
X
6.1.3 点估计的优良性准则
样本均值作为总体期望的估计量、样本方差（注 意n修正为n-1）作为总体方差的估计量、样本比例 作为总体比例的估计量，满足 1）无偏性 和 3）一 致性两个标准；比较满足2）有效性的标准。 三个标准是对估计量的评判标准，而不是估计值。 一个总体可以抽出很多样本，不同样本得到的点 估计值一般不同，所有样本的估计值满足某种分布 （抽样分布），一个样本的点估计不一定可靠。
X n )]
2).E(s2 )
E[ 1 n 1
n i 1
(Xi
X )2]
1 n 1
n
E{
i 1
[(X i
) (X
)]2 }
1
n
E{
n 1 i1
[(X i
)2
(X
)2
2( X i
)(X
)]}
1[ n 1
n i 1
E(Xi
)2
nE(X
)2
2nE(X
)2 ]
1 [n 2 n 2 ] 2
1 n 1
n i 1
(Xi
X )2
例：P126例6-2：样本平均寿命估计全体灯泡的平 均寿命；样本标准差s估计总体标准差
（一）矩估计法
前面的矩估计法没有用到（或者不关心）总体分布 的信息。有的情况我们知道总体分布的形式F(x,1, 2…… ,k),但是参数 i未知。而参数与总体的原点 矩或者中心矩有关。
评价估计量优劣的标准
6.1.3 点估计的优良性准则
我们知道，一个未知参数的估计量可能不止 一个。究竟采用哪个为好呢？这就涉及到用什么 标准来评价估计量的问题。我们介绍三个常用的 标准：
1）无偏性； 2）有效性； 3）一致性。
一）、无偏性
根据样本推得的估计值与真值可能不同， 然而， 如果由一系列抽样计算出一系列估计值，则
(x1, x2, …, xn )。事件{ X1 x1, , X n xn}发生的概率为：
n
L( x1 , x2 , , xn ,1 , 2 , , k ) F ( xi ,1 , 2 , k )
i 1
为（1, 2…… ,k )∈Θ的函数。因为(x1, x2, …, xn )在一次观察 中就出现了，应出现在概率最大的地方。即求函数
❖ 从不同的样本得到的结论也不会完全一样。虽 然真实的比例在这种抽样过程中永远也不知道 ；但可以知道估计出来的比例和真实的比例大 致差多少。
❖ 教材P125例6-1：长度测量
估计量与估计值(estimator & estimated value)
❖ 估计量：用来估计总体特征的样本指标，也叫统计 量：（待估计的总体指标也叫总体参数）
（二）顺序估计量法
顺序估计量法：用样本中位数Me来估计总体的数学 期望，用样本的极差R来估计总体的均方差的方法。
样本的中位数与极差的定义同第三章； 课本P126例
ˆ Me;ˆ R / dn;dn见P128表6-1
特点： •计算简单，需要排序； •分布对称时中位数可较好的估计均值； •极差估计总体均方差不可靠，样本越大越不可靠， 样本较大时(>10)需要分组，各组极差的平均值来 估计。
▪ 如样本均值、样本方差、样本成数（成数）等
• 其中样本均值就是总体均值 的一个估计量
▪ 估计量是一个变量（直观而言，是一个计算公式）
总体参数用 表示，估计量用ˆ 表示
❖ 估计值：估计总体参数时计算出的估计量的具体值
▪ 如果样本均值x =52.94，则52.94就是总体均值 的估
计值；样本均值就是估计量（统计量的名称） ▪ 对应不同的样本，计算的估计值不同；
常用的参数估计方法
估计方法
点估计Байду номын сангаас
矩估法
顺序统计量法
最大似然法 最小二乘法
区间估计
参数的点估计
点估计(point estimate)
点估计：用样本的估计量 ˆ 的值直接作为总体参数
的估计值 ▪ 如：用样本均值（方差、成数）直接作为总体均值 （方差、成数）的估计;用两个样本均值之差直接作 为两个总体均值之差的估计。 ▪ 优点：简单直接； ▪ 缺点：没有给出点估计值与总体参数的真实值接近 程度的信息
n 1
n
其中用到E( X i
)2
2，E ( X
)2
2
n
二）、无偏估计的有效性
一般地，未知参数 的无偏估计量往往不止一个， 在这些估计量中，当然是取值对于 的离散程度越小
的越好，即方差越小的越好。
定义： 设ˆ1和ˆ2都是参数的无偏估计，如果
Dˆ1 Dˆ2
则称ˆ1比ˆ2有效。 如 果 在的 一 切 无 偏 估 计 中，ˆ的 方 差 达 到 最 小， 则称ˆ为的最小方差最( 佳)无偏估计。
参数点估计的概念
点估计：用样本的估计量 ˆ 的值直接作为总体参数
的估计值
▪ 如：用样本均值（方差、成数）直接作为总体均值 （方差、成数）的估计
▪ 如：用两个样本均值之差直接作为两个总体均值之差 的估计
❖ 例：抽样调查宁波人认可某饮料的比例。 直接把样本中认可该饮料的比例当作全宁 波人认可该饮料的真实比例。
第六章 参数估计
主要内容
❖6.1. 参数估计的概念及点估计 ❖6.2.参数的区间估计 ❖6.3.样本容量的确定 调整： ❖6.1. 参数估计的概念及点估计（掌握） ❖6.2.单一总体的参数的区间估计（掌握） ❖6.3. 样本容量的确定（掌握） ❖6.4.两个总体的参数的区间估计（了解）
学习目标
参数估计的概念与特点
参数估计 也叫抽样估计，就是根据样本统
计量去估计总体的参数
1、以非全面调查为基础 特 2、以随机抽样为前提 点 3、以概率论（抽样分布）推断总体参数
4、参数估计存在抽样误差，但可以计算 和控制
参数估计的概念与特点
❖ 如果我们想知道宁波人认可某饮料的比例，人 们只有在宁波人中进行抽样调查以得到样本， 并用样本中认可该饮料的比例来估计真实的比 例。
P( ˆ) 无偏 有偏
ˆ
一）、无偏性
例：设总体X 有期望 E(X)= 与方差 D(X)= 2， 与 2 都未 知。 样本(X1, X2, …, X n)来自 X，试证样本均值 X 是 的无偏 估计；样本方差s2是 2的无偏估计；
证：1).E(X1 )
...
E(X n
)
E(
X
)
E[ 1 n
(X1
...
（1, 2…… ,k )∈Θ未知，样本(X1, X2, …, Xn )来自总体 X，
则样本(X1,
X2,
…,
X
n
)的概率(分布函数)为： n
n
L( x1 , x2 , , xn ,1 ,2 , ,k ) P( Xi xi ) F ( xi ,1 ,2 , k )
i 1
i 1
进行一次具体的抽样之后， (X1, X2, …, Xn ) 得到一组观察值
这些估计的期望值与未知参数的真值相等， 直观意义：样本估计量的数值在参数的真值 附近波动。 估计值的期望值无误差，这就是估计量的无偏性。
ˆ为参数 的估计量
定义：如果对一切 ，有 E(ˆ) 成立，
则称ˆ为参数的无偏估计量，简称无偏估计。
一）、无偏性
是指样本估计量的均值应等于被估计总体
参数的真值，即 E (ˆ) 。
▪ 矩： P126 （P78统计动差）：
mk
1 n
n i 1
X
k i
,
k
1 n
n
(X i
i 1
k
X)
▪ 按矩估计法，样本均值 X 是总体均值μ的点估 计量，样本方差s2是总体方差 2的点估计量。
（一）矩估计法
2、计算公式
ˆ
X
1 n