第七章 参数估计
概率论与数理统计第7章参数估计PPT课件

a1(1, ,k )=v1
1 f1(v1, ,vk )
假定方程组a2(1, ,k ) v2 ,则可求出2 f2(v1, ,vk )
ak (1, ,k ) vk
k fk (v1, ,vk )
则x1 xn为X的样本值时,可用样本值的j阶原点矩Aj估计vj,其中
Aj
1 n
n i1
xij ( j
L(x1, ,xn;ˆ)maxL(x1, ,xn;),则称ˆ(x1, ,xn)为
的一种参数估计方法 .
它首先是由德国数学家
高斯在1821年提出的 ,然而, 这个方法常归功于英国统
Gauss
计学家费歇(Fisher) . 费歇在1922年重新发现了
这一方法,并首先研究了这
种方法的一些性质 .
Fisher
10
极大似然估计是在已知总体分布形式的情形下的 点估计。
极大似然估计的基本思路:根据样本的具体情况
注:估计量为样本的函数,样本不同,估计量不 同。
常用估计量构造法:矩估计法、极大似然估计法。
4
7.1.1 矩估计法
矩估计法是通过参数与总体矩的关系,解出参数, 并用样本矩替代总体矩而得到的参数估计方法。 (由大数定理可知样本矩依概率收敛于总体矩, 且许多分布所含参数都是矩的函数)
下面我们考虑总体为连续型随机变量的情况:
n
它是的函数,记为L(x1, , xn; ) f (xi , ), i 1
并称其为似然函数,记为L( )。
注:似然函数的概念并不仅限于连续随机变量 ,
对于离散型随机变量,用 P {Xx}p(x,)
替代f ( x, )
即可。
14
设总体X的分布形式已知,且只含一个未知参数,
概率论 第七章 参数估计

L( ) max L( )
称^为
的极大似然估计(MLE).
求极大似然估计(MLE)的一般步骤是:
(1) 由总体分布导出样本的联合概率分布 (或联合密度);
(2) 把样本联合概率分布(或联合密度)中自变 量看成已知常数,而把参数 看作自变量, 得到似然函数L( );
(3) 求似然函数L( ) 的最大值点(常常转化 为求ln L( )的最大值点) ,即 的MLE;
1. 将待估参数表示为总体矩的连续函数 2. 用样本矩替代总体矩,从而得到待估参
数的估计量。
四. 最大似然估计(极大似然法)
在总体分布类型已知条件下使用的一种 参数估计方法 .
首先由德国数学家高斯在1821年提出。 英国统计学家费歇1922年重新发现此
方法,并首先研究了此方法的一些性质 .
例:某位同学与一位猎人一起外出打猎.一只 野兔从前方窜过 . 一声枪响,野兔应声倒下 .
p值 P(Y=0) P(Y=1) P( Y=2) P(Y=3) 0.7 0.027 0.189 0.441 0.343 0.3 0.343 0.441 0.189 0.027
应如何估计p?
若:只知0<p<1, 实测记录是 Y=k
(0 ≤ k≤ n), 如何估计p 呢?
注意到
P(Y k) Cnk pk (1 p)nk = f (p)
第七章 参数估计
参数估计是利用从总体抽样得到的信息 估计总体的某些参数或参数的某些函数.
仅估 计一 个或 几个 参数.
估计新生儿的体重
估计废品率
估计降雨量
估计湖中鱼数
…
…
参数估计问题的一般提法:
设总体的分布函数为 F(x, ),其中为未 知参数 (可以是向量).从该总体抽样,得样本
第七章 参数估计

第七章 参数估计
1、正态总体、方差已知或非正态总体,大样本 当总体服从正态分布且方差已知时,或者总体不是正态分布但是大样本时,样本 均值的抽样分布均为正态分布,其数学期望为总体均值u,方差为Ϭ2/n。而样本均 值经过标准化以后的随机变量则服从标准正态分布,即 Z=(x-u)/(Ϭ/n0.5)~N(0,1) 根据上式和正态分布的性质可以得出总体均值u在1-α置信水平下的置信区间为: xα+是(-)事Z(α先/2)所(Ϭ确/n定0.5的)。而其一中个,概x率+Z值(α/2,) (Ϭ也/n称0.为5)为风置险信值上,限是,总x体-Z均(α/2值) (Ϭ不/包n0.含5)为在置置信信下区限间,的 概是率估;计1总- 体α称均为值置时信的水估平计,误Z差(α/。2) 是标准正态分布右侧面积为α/2的z值;Z(α/2) (Ϭ/n0.5) 也即是说,总体均值的置信区间由两个部分构成:点估计值和描述估计量精度的 +(-)值,这个+(-)值称为估计误差。
第七章 参数估计
在区间估计中,由样本统计量所构造的总体参数的估计区间称为置信区间。
其中,区间的最小值称为置信下限,最大值称为置信上限。
由于统计学家在某种程度上确信这个区间会包含真正的总体参数,所以给它取名 为置信区间。原因是:如果抽取了许多不同的样本,比如说抽取100个样本,根据 每一个样本构造了一个置信区间,这样,由100个样本构造的总体参数的100个置 信区间中,有95%的区间包含了总体参数的真值,而5%则没有包含,则95%这个值 称为置信水平。一般,如果将构造置信区间的步骤重复多次,置信区间中包含总 体参数真值的次数所占的比例称为置信水平,也称为置信度或置信系数。
自然使用估计效果最好的那种估计量。什么样的估计量才算一个好的估计量呢? 统计学家给出了评价估计量的一些标准,主要包括以下几个:
第七章-参数估计

X 0
• 2.有效性
• 当总体参数的无偏估计不止一个统计量时,无偏
估计变异小者有效性高,变异大者有效性低,即 方差越小越好。
9 0.286 9 0.286 2 23.6 1.73
0.11 2 1.49
• 【例7-7】
• n=31,sn-1=5问的0.95置信区间?
• 解:先求方差的置信区间,当df=30,查χ2表,
2 0.025 47
2 0.975 16.8
2 30 52 30 5 2 47 16.8
正态分布,即Z0.05/2=1.96。
5 0.635 2 31
• 0.95的置信区间为:
5 1.96 0.635 5 1.96 0.635
3.76 6.24
• 二、方差的区间估计
• 根据χ2分布:
2
X X
2
2
2 2 n 1 sn ns 1
第七章 参数估计
思 考
• 例8-1:从某市随机抽取小学三年级学生50名,测 得平均身高为 140cm ,标准差 4 。试问该市小学 三年级学生的平均身高大约是多少?
例8-2:某教师用韦氏成人智力量表测80 名高三学生,M=105。试估计该校高三 学生智商平均数大约为多少?
什么是参数估计
当在研究中从样本获得一组数据后,如何通过 这组数据信息,对总体特征进行估计,也就是 如何从局部结果推论总体的情况,称为总体参 数估计。 • 参数估计: 样本 统计量
• 【例7-2】
• 有一个49名学生的班级,某学科历年考试成绩的
概率论与数理统计-参数估计

第七章 参数估计
例:
引言
设总体 X 是服从参数为 的指数分布,其中参数
未 知 ,
0 .X1 ,,
X
是总体
n
X
的一个样本,
我们的任务是根据样本,来估计 的取值,从
而估计总体的分布.
这 是 一 个 参 数 估 计 问 题.
第七章 参数估计
§1 点估计 §2 估计量的评选标准 §3 区间估计
第七章 参数估计 §1 点估计
2
令
A1
A2
, (
2
1)
.
第七章 参数估计
例6(续)
解此方程组,得
§1 点估计
ˆ
A1 2 A2 A12
,
ˆ
A2
A1 A12
.
ˆ X 2 ,
即
B2
ˆ X .
B2
其中 B2
1 n
n i 1
Xi X
2 为样本的二阶中心矩.
第七章 参数估计(第二十二讲) 三、 极大似然法
§1 点估计
1
第七章 参数估计
例6(续)
EX 2 x 2 f
x dx x 2
x 1e x dx
0
§1 点估计
2 2 x ( e 2)1 x dx
2 0 2
2 2
1 2
1
2
因此有
EX
,
EX
2
1 .
⑵ 在不引起混淆的情况下,我们统称估计量
与估计值为未知参数 的估计.
第七章 参数估计
二、 矩估计法
§1 点估计
设X为连续型随机变量,其概率密度为
f ( x;1 ,, k ), X为离散型随机变量,其分布列为
第7章 参数估计(小结与典型例题选讲)

估计量, 这个估计量称为矩估计 . 量
最大似然估计量
得到样本值 x1 , x2 ,, xn 时 , 选取使似然函数L( )
ˆ 取得最大值的 作为未知参数 的估计值, ˆ 即 L( x1 , x2 , , xn ; ) max L( x1 , x2 , , xn ; ).
( 其中 是 可能的取值范围)
P{ ( X 1 , X 2 ,, X n ) ( X 1 , X 2 ,, X n )} 1 ,
则称随机区间( , ) 是 的置信水平为1 的置信 区间, 和 分别称为置信水平为 的双侧置信 1 区间的置信下限和置信 上限, 1 为置信水平.
其中 Sw2
n1S12 n2 S2 2 , Sw Sw2 . n1 n2 2
1 2. 两个总体方差比 2 的置信区间 2 (1)总体均值 1 , 2 为已知的情况.
2
1 2 的一个置信水平为 1 的置信区间 2
2
m m 2 2 n ( X i 1 ) n ( X i 1 ) 1 1 i n1 . , i n1 F (m, n) F (m, n) m (Y j 2 ) 2 1 /2 m (Y j 2 ) 2 /2 j 1 j 1
ˆ Var[ p ] p(1 p) , 2 n ln f ( x; p) E p n
1 n ˆ 对于参数 p 的无偏估计量 p X X i , n i 1
1 n 1 n ˆ ] Var X i 2 Var[ X i ] Var[ p n i 1 n i 1
i 1
n
L( )称为样本似然函数 .
参数估计方法

第七章 参数估计第一节 基本概念1、概念网络图{}⎪⎪⎪⎭⎪⎪⎪⎬⎫⎪⎪⎪⎩⎪⎪⎪⎨⎧⎪⎭⎪⎬⎫⎪⎩⎪⎨⎧→⎭⎬⎫⎩⎨⎧单正态总体的区间估计区间估计一致性有效性无偏性估计量的评选标准极大似然估计矩估计点估计从样本推断总体2、重要公式和结论例7.1:设总体),(~b a U X ,求对a, b 的矩估计量。
例7.2:设n x x x ,,,,21 是总体的一个样本,试证(1);2110351321x x x ++=∧μ (2);12541313212x x x ++=∧μ(3).12143313213x x x -+=∧μ都是总体均值u 的无偏估计,并比较有效性。
例7.3:设n x x x ,,,,21 是取自总体),(~2σμN X 的样本,试证∑=--=ni i x x n S 122)(11 是2σ的相合估计量。
第二节 重点考核点矩估计和极大似然估计;估计量的优劣;区间估计第三节 常见题型1、矩估计和极大似然估计例7.4:设0),,0(~>θθU X ,求θ的最大似然估计量及矩估计量。
例7.5:设总体X 的密度函数为⎪⎩⎪⎨⎧≥=--.,0,1)(/)(其他μθθμx e x f x其中θ>0, θ,μ为未知参数,n X X X ,,,21 为取自X 的样本。
试求θ,μ的极大似然估计量。
2、估计量的优劣例7.6:设n 个随机变量n x x x ,,,21 独立同分布,,)(11,1,)(122121∑∑==--===n i i n i i x x n S x n x x D σ 则(A )S 是σ的无偏估计量;(B )S 是σ的最大似然估计量; (C )S 是σ的相合估计量;(D )x S 与2相互独立。
例7.7:设总体X 的密度函数为⎪⎩⎪⎨⎧<<-=,,0,0),(6)(3其他θθθx x xx fn X X X ,,,21 是取自X 的简单随机样本。
(1) 求θ的矩估计量∧θ;(2) 求∧θ的方差D (∧θ);(3) 讨论∧θ的无偏性和一致性(相合性)。
07心理统计学-第七章 参数估计

犯错误的概率,常用α(或p)表示。则1-α为置信 度。(显著性水平越高表示的是α值越小,即犯错误的可
能性越低) α为预先设定的临界点,常用的如.05、.01、.001;p 为检验计算所得的实际(犯错误)概率。
第一节 点估计、区间估计与标准误
三、区间估计与标准误
3、区间估计的原理与标准误
转换成比率为
p
n
p, SE p
n
pq n
同理可得公式7-17。自习[例7-12、例7-13]
1、从某地区抽样调查400人,得到每月人均文化消费为 160元。已知该地区文化消费的总体标准差为40元。试 问该地区的每月人均文化消费额。(α=.05,总体呈正态
分布)
2、上题中总体方差未知,已知Sn-1=44元。 3、已知某中学一次数学考试成绩的分布为正态分布,总 体标准差为5。从总体中随机抽取16名学生,计算得平 均数为81、标准差为Sn=6。试问该次考试中全体考生成 绩平均数的95%置信区间。 4、上题中总体方差未知,样本容量改为17人。 5、假定智商服从正态分布。随机抽取10名我班学生测 得智商分别为98、102、105、105、109、111、117、 123、124、126(可计算得M=112,Sn≈9.4),试以95% 的置信区间估计我班全体的智商平均数。 返回
值表,求tα /2(df)。
5、计算置信区间CI。
σ2已知,区间为M-Zα /2 SE <μ< M+Zα /2 SE;
σ2未知,区间为M-tα /2(df)SE <μ< M+tα /2(df)SE。
6、对置信区间进行解释。
二、σ2已知,对μ的区间估计(Z分布,例7-1 & 2) 三、σ2未知,对μ的区间估计(t分布,例7-3 & 4)
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
设 产 品 的 寿 命 分 布 是 指数 分 布 , 其 概 率 密 度 为
f
(t
)
1
et
/
,
t 0
0, t 0
0未 知 。 设 有n个 产 品 投 入 定 数 截 尾 试验 , 截 尾 数 为m, 得 定 数
截 尾 样 本0 t1
t2
t
。
m
故
似
然
函
数为
1
1
[
t1
t2
tm
(nm
)tm
想。
极大似然估计法的基本思想
在 已 知 总 体X概 率 分 布 时 , 对 总 体 进行n次 观 测 , 得 到 一 个
样 本 , 选 取 概 率 最 大 的值ˆ作 为 未 知 参 数的 真 值 的 估 计 是 最
合理的。
极大似然估计法的具体作法
(1)X是 离 散 型 随 机 变 量 ,P{ X x} P( x; ), 则 似 然 函 数
1 n
n i 1
X i是 总 体 均 值E( X )
的
无 偏 估 计 量 与 一 致 估 计量 。
样本方差S 2
1 n1
n i 1
(Xi
X )2是 总体 方 差D( X )的 无
偏 估 计 量 与 一 致 估 计 量。
基于截尾样本的最大似然估计
产 品 寿 命T是 一 个 随 机 变 量 , 它 的分 布 称 为 寿 命 分 布 。
d
d
即 可 得ˆ ˆ( X1 , X 2 , , X n )。
极大似然估计法的具体作法
有k个参数时,似然函数L(1, 2, , k )为多元函数,解 解L(1, 2, , k )或 ln L(1, 2, , k )的偏导数方程组即可 得解ˆi ˆi ( X1 , X 2 , , X n ), i 1,2, , k。
大 ? 即 要 求 在 正 态 分 布的 假 定 下P{| X | 1}, 在 指 数 分 布 的 假 定 下 算出P{| X | 1}, 等 等 。
或 问 方 差 的 大 小 ? 即 要求 在 正 态 分 布 的 假 定
下E( X )2, 在 指 数 分 布 的 假 定 下算 出E( X )2,
形 式 : 点 估 计 和 区 间 估计 。
点估计
点 估 计 是 用 一 个 数 值 作为 未 知 参 数 的 估 计 值 。
在 统 计 上 , 点 估 计 就 是构 造 样 本X1 , X 2 ,
,
X
的
n
一
个
统 计 量ˆ((X1 , X 2 , , X n ),用 它 的 观 察 值
ˆ((x1 , x2 , , xn )作 为 未 知 参 数的 近 似 值 , 我 们 称
Al
1 n
n i 1
X il,l
1,2,
,k
矩估计法的基本思想
由辛钦定理,可知Al
p
,
l
再由依概率
收敛的性质
可知,g( A1 , A2 , , Ak ) p g(1 , 2 , , k ),其中g为连续
函数,因此考虑可用样本矩作为相应的总体矩的估计量。
矩估计法的具体作法
令总体 矩l A(l 样本矩 ),l 1,2, , k,得到一 个包含
量,若有
D(ˆ1 ) D(ˆ2 ) 成 立 , 则 称ˆ1比ˆ2有 效 。
一致性(相合性)
设ˆ ˆ( X1 , X 2 , , X n ),若 对 任 给 的 0, 有
lim
n
P{
|ˆ
(
X
1
,
X 2 ,
,
Xn )
|
}1
则 称ˆ是的 一 致 估 计 量 。
练习
试 证 样 本 均 值X
为 了 对 寿 命 分 布 进 行 统计 推 断 , 则 需 通 过 寿 命试 验 , 取 得
寿命数据。
实 验 方 法 : 一 完 全 样 本, 将 随 机 抽 取 的n个 产 品 在 时 间
t 0时 , 同 时 投 入 试 验 , 直到 每 个 产 品 都 失 效 , 得到 样 本
0 t1
t2
本章小结 习题
参数估计
点估计 区间估计
退出 返回
参数的点估计
矩估计法 极大似然估计法 估计量的评选标准
继续 返回
什么是矩估计法
以样本矩估计相应总体矩来求出估计量的方 法,称为矩估计法,又称数字特征法。
矩估计法的基本思想
设X为 连 续 型 随 机 变 量 , 其概 率 密 度 为f ( x;1 , 2 , , n ),
或 l E( X l ) xl p( x;1 , 2 , , n ) xRX
l 1,2, , k
(X连 续 型 ) (X离 散 型 )
( 其 中RX是X的 可 能 取 值 范 围 ) 存 在。 它 们 是1 , 2 ,
,
的
n
函
数
。
其 样 本X ( X1 , X 2 , , X n )的 前k阶 原 点 矩
ˆ((X1 , X 2 , , X n )为的 估 计 量 , 称
ˆ((x1 , x2 , , xn )为的 估 计 值 。 如 我 们 用 样本 均 值X
作 为 正 态 分 布N ( , 2 )中指 数 分 布 中的 估 计 总 体 均 值 的 误 差 不 超过1的 概 率 有 多
又如,大批生产的一种电子元件,在一定条 件下,我们假定元件寿命的概率分布为指数分布, 其概率密度为
统计学推断概述
f
(
x)
1
e
x
0
x0 其它
参 数〉0为 未 知 参 数 , 是 统 计 推断 的 对 象 。
这 样 , 我 们 就 可 以 一 般的 把 统 计 推 断 问 题
抽 象 为 如 下 的 数 学 模 型: 总 体 的 概 率 分 布F ( x; )
含 有 未 知 参 数, 从 总 体 中 随 机 抽 样 ,得 样 本
x1 , x2 , , xn , 通 过 样 本 去 获 得 对 未 知参 数的 了 解 。
包 括 估 计 问 题 和 检 验 问题 。 由 于 估 计 的 对 象 是参
数 , 所 以 又 称 为 参 数 估计 。 参 数 估 计 有 两 种 基本
3 27/64 1/64
则定义估计量如下:
pˆ (
x
)
1
4 3
, ,
4
当x 0,1 当x 2,3
它 是 对 每 个x, 选 取pˆ ( x)使 得
P( x, pˆ ( x)) P( x; P)
其 中p是 不 同 于pˆ ( x)的 另 一 值 。 这 就 是 最 大似 然 估 计 的 基 本 思
等等。 判 断 估 计 量 好 坏 的 标 准不 同 , 对 估 计 量 的 评
价也就不同。
区间估计
区 间 估 计 是 用 一 个 区 间作 为 未 知 参 数 的 估 计 值。
在 统 计 上 , 区 间 估 计 就是 构 造 样 本X1 ,
X 2 ,
,
X
的
n
两
个 统 计 量ˆ1((X1 , X 2 , , X n )和ˆ2 ((X1 , X 2 , , X n ),且
m
其 中s(t0 ) t1 t2 tm (n m)t0
参数的区间估计
区间估计的基本概念 正态总体均值与方差的区间估计 (0-1)分布参数的区间估计
0未 知 。 设 有n个 产 品 投 入 定 时 截 尾 试验 , 截 尾 时 间 为t0, 得 定 时
截 尾 样 本0 t1 t2 tm t0。 故 似 然 函 数 为
1 1
[t1
t2
tm
(
n
m
)t0
]
L( ) e m
令 d ln L( ) 0, 解 得 d
ˆ s(t0 )
估计量的评选标准
(1)无 偏 性
设ˆ ˆ( X1 , X 2 , , X n ), E(ˆ)存 在 且 E(ˆ)
则 称ˆ是的 无 偏 估 计 量 , 否 则 称有 偏 估 计 量 。
(2)有 效 性
设ˆ1 ( X1 , X 2 , , X n )和ˆ2 ( X1 , X 2 , , X n )都 是的 无 偏 估 计
ˆ1 ˆ2, 用 观 察 值[ˆ1((x1 , x2 , , xn ),ˆ1((x1 , x2 , , xn )]
作 为 未 知 参 数的 估 计 值 , 用[ˆ1((X1 , X 2 , , X n ),
ˆ2 ((X1 , X 2 , , X n )]作 为的 估 计 量 。
区间估计的优良性
区 间 估 计 的 优 良 性 可 分两 个 方 面 去 考 察 , 一 方面
例1 假设有某位同学与一位老战士一同进行实弹射击,两人 同打一个靶子,每人各打一发,结果仅中一发,试问认为这 一发是谁打中的较为合理?为什么?
例2 假设在一个罐中放着许多白球和黑球,并假定已经知道 两种球的数目之比是1:3,但不知道哪种颜色的球多,如果 用有放回抽样法从罐中任意抽取n个球,则其中黑球的个数 为x的概率为
k个 未 知 参 数1 , 2 ,
,
的
k
联
立
方
程
组
,
从
中
解出
1
,
2
,
,
,
k
则 这 组 解ˆ1 ,ˆ2 ,
,ˆk就 作 为1 , 2 ,
,
的
k
矩
估
计
量
,
其
观
察
值
称为矩估计值。
什么是极大似然估计法
以 总 体X的 样 本 的 似 然 函数L( )的 解 ( X1, X 2 , , X n )来 估 计 参 数 真 值 的方 法 。ˆ( x1, x2 , , xn )称的 最 大 似 然 估 计值 , ˆ( X1 , X 2 , , X n )称的 最 大 似 然 估 计量 。