ch7第七章参数估计

合集下载

《CH参数估计》PPT课件

《CH参数估计》PPT课件
第七章 参数估计
§7.1 参数的点估计概念 §7.2 估计量的评选标准 §7.3 参数的区间估计
1
§7.1 参数的点估计概念
定义 设总体X的分布函数的形式已知,它的一个或多个参数未知,根据 总体X的一个样本X1,X2,…, Xn来估计总体未知参数的真值称为参数的点 估计。
定义 设总体X 的分布函数F(x, )中含有未知参数,X1,X2,…, Xn为总体X
X
2A1
12(A2
3 n
n i 1
(Xi
A12 )
X )2
b A1
3( A2 A12 ) X
3 n
n i 1
(Xi
X )2
6
一般地, 不论总体服从什么分布,若总体的期望与方差 2 均存在, 则它们的矩估计量分别为
ˆ
1 n
n i1
Xi
X
样本均值
ˆ 2
1 n
n i1
(Xi
X )2
§7.3 参数的区间估计
上一节中,我们讨论了参数的点估计,它是由样本算得的一个值去估 计未知参数。但是,即使是无偏估计量也会由于样本的随机性使得估计值 带有偏差,所以点估计值仅仅是未知参数的一个近似值,它没有反映出近 似值的误差范围,而有时我们又需要对此偏差作出衡量,知道近似值的精 确程度。
本节的区间估计正好弥补了点估计的缺陷,它是通过寻找一个区间, 并利用此区间包含未知参数真值的可信程度来估计未知参数的方法。
i1
X
i
)2
)
2
(
n)
2
2 1 2
(
n)
-2

(n) 2 2
4
1
2

6

第七章参数估计内容提要

第七章参数估计内容提要

i =1
i =1
d ln L = 0 ,求得似然函数 L 的极大值θˆ ,即为未知参数θ 的极大似然估计.其思 dθ
想是:在已知总体 X 概率分布时,对总体进行 n 次观测,得到一个样本,选取概
率最大的θ 值θˆ 作为未知参数θ 的真值的估计是最合理的.
(4)估计量的优劣标准
1)无偏性.设θˆ = θˆ( X1, X 2 ,Λ , X n ), E(θˆ) 存在,且 E(θˆ) = θ ,则称值θˆ 是 θ 的无偏估计量.否则称为有偏估计量.
计量.
2、参数的区间估计
设总体 X 的分布 F (x;θ ) 中含有未知参数θ ,若存在样本的两个函数
θ ( X1, X 2 ,Λ , X n ) 和θ ( X 1, X 2 ,Λ , X n ) ,使对于给定的α (0 < α < 1) ,有
P{θ < θ < θ} = 1 − α ,则随机区间(θ ,θ )称为参数θ 的置信度为1 − α 的双侧
~
F (n1 −1, n2
− 1) , σ 12
σ
2 2

置信度为1 − α 的置信区间为:
⎜⎛ ⎜ ⎝
S
2 2


2
S12 (n1 − 1, n2
− 1)
,
S
2 2

F1− α 2
S12 (n1 − 1, n2

1)
⎟⎞ ⎟ ⎠
.
5
解:由α = 0.02 ,查表得:
F0.01 (24,7)
=
6.07, F0.99 (24,7)
【例 3】某厂生产的钢丝.其抗拉强度 X ~ N (µ,σ 2 ) ,其中 µ,σ 2 均未知,从中

chap7参数估计.ppt

chap7参数估计.ppt

若p的可供选择的估计值有许多,仍应选择发生概率最大的 p
作为p的估计,这就是极大似然估计的思想。
极大似然估计的原理(教材p180-181)
设总体X的概率密度函数族为f(x; ) (或概率分布函数族为
P(X=x)=p(x ; ) ),。
设 (x1,x2, ,xn ) 为任一组样本观察值(一组抽象的数),则
求的矩估计值和极大似然估计值。
说明:1. 本题中因 P(X= xi )无一般表达式,故不能先求极大
似然估计量,再将样本观察值代入求极大似然估计值。
2. 本题处理思想在解决实际问题时很有用。
极大似然估计的性质:若 为总体X中未知参数的极大似
然估计量,u=u( ) 有单值反函数 = (u),则u( )是u( ) 的
k
k次着n火k天数 75 90 54 22
6
2
1 =
250
1) 试用矩估计法估计参数; 2) 试用极大似然估计法估计参数; 3) 试求P(X=0)的极大似然估计值。
例2(2002年数学三考研试题填空题)
设总体X的概率密度为 f (x;
)
e
, ( x ) 0,
若x 若x
, .
而 X1,X 2, ,X n 是来自总体X的简单随机样本,则未知
大似然估计值。
求L()的极大值 :
通过
d
ln
L(
)
0,求出

d
说明:1. 因为L()是样本观察值的函数(此时样本观察值不变),
故求出的 一般也是样本观察值的函数。
2. 由于 d ln L( ) 0 只是lnL()取极值的必要条件,从理论上
d
来说,还应验证lnL( ) lnL(), 对所有样本观察值都

概率论与数理统计完整课件第七章参数估计PPT课件

概率论与数理统计完整课件第七章参数估计PPT课件

n
L(1,2,,k ) L(x1, x2,, xk ;1,2,,k ) f (xi ;1,2,,k ) i 1
将其取对数,然后对1,2 ,,k 求偏导数,得
ln L(1, 2 ,, k ) 0 1
ln L(1, 2 ,, k ) 0 k
该 方 程 组 的 解 ˆi ˆi (x1, x2,, xn),i 1,2,,k ,即 为 i 的 极
§1 参数的点估计
设总体 X 的分布函数 F(x;) 形式已知,其中θ 是待估计的参数,点估计问题就是利用样本 (X1, X 2,, X n ) ,构造一个统计量ˆ ˆ(X1, X2,, Xn) 来估 计θ,我们称ˆ(X1, X2,, Xn )为θ的点估计量,它是 一个随机变量。将样本观测值 (x1, x2 ,, xn ) 代入估计 量 ˆ(X1, X2,, Xn ) , 就 得 到 它 的 一 个 具 体 数 值 ˆ(x1, x2,, xn ) ,这个数值称为θ的点估计值.
如果样本中白球数为0,则应估计p=1/4,而不估计 p=3/4.因为具有X=0的样本来自p=1/4的总体的 可能性比来自p=3/4的总体的可能性要大.一般当 X=0,1时,应估计p=1/4;而当X=2,3时,应估计 p=3/4.
第10页/共71页
定义:设总体 X 的分布类型已知,但含有未知参数θ. (1)设离散型总体 X 的概率分布律为 p(x; ) ,则样本 (X1, X2,, Xn ) 的联合分布律
~~ 2n1nLeabharlann ini1n1x(i xix
x
)
2
由微积分知识易验证以上所求为μ与σ2的极大似然 估计.
第21页/共71页
• 例:设总体X具有均匀分布,其概率密度函数为
p(x;)

概率论与数理统计 第七章 参数估计

概率论与数理统计 第七章  参数估计
例2:假设某地区18~25岁女青年身高X ~ N(, 2) 现抽取30名,样本均值为158cm,样本方差为 (5cm)2,求σ2的置信水平为95%的区间估计。
设X1,…Xn是取自 N (, 2 )的样本,
求参数 2 的置信度为 1的置信区间.
确定分位数 12 / 2 (n 1), 2 / 2 (n 1) 使
二、有效性
设 ˆ1 ˆ1(X1,, X n )和 ˆ2 ˆ2( X1,, Xn)
都是参数 的无偏估计量,若有
D(ˆ1) D(ˆ2 ) 则称 ˆ1 较 ˆ2 有效 .
如果对固定的n, D(ˆ1) min(D(ˆ)) 则称ˆ1是ˆ的有效估计。
例1:设X1,X2, X3是来自某总体X的样本,且 E(X)=μ,讨论μ的以下估计量的无偏性和一致性。
缺点是,当总体类型已知时,没有 充分利用分布提供的信息 .
极大似然估计
例: 设一箱中装有若干个白色和黑色的球, 已知两种球的数目之比为3:1或1:3,现有放回 地任取3个球,有两个白球,问:白球所占的 比例p是多少?
如果只知道0<p<1,并且实 测记录是X=k (0 ≤ k≤ n),又 应如何估计p呢?
(4) 结论
区间(ˆ1,ˆ2 )就是的一个 置信度为1的置信区间.
方差未知,求期望的区间估计
例2:随机地从一批服从正态分布N(μ, σ2)的零件 16个,分别测得其长度为: 2.14 2.10 2.13 2.15 2.13 2.12 2.13 2.10 2.15 2.12 2.14 2.10 2.13 2.11 2.14 2.11 估计该批零件的平均长度μ,并求μ的置信区间 (α=0.05)
例3. 已知某产品的不合格率为p,有简单随机样本 X1 ,X2 ,…, Xn,求p的极大似然估计量。 若抽取100件产品,发现10件次品,试估计p.

Ch7 参数估计(精)

Ch7 参数估计(精)
iid
iid
^
试求 ˆ L和
2 ˆ L.
ˆL . 例 设X 1 , , X n ~ U (a , b ), 试求a ˆ L和 b
iid
Stop
极大似然估计有性质: ˆ 1 ,, ˆ m )是(1 ,, m )的极大似然估计 , 若( 而 g(1 ,, m )具有单值反函数 . 则 ˆ 1 , , ˆ m )是g (1 ,, m )的极大似然估计 , g( ˆ 1 , , ˆm). ˆg ˆ (1 ,, m ) g ( 即
(1) 1, 2未知
令 F
2 S1 2 S2 2 1 2 2
~ F (n1 1, n2 1)
n1 n2 1 1 2 2 2 2 其中S1 ( X X ) , S ( Y Y ) i 2 n1 1 i 1 n2 1 i 1 i
可得
2 1
2 2 2 S2 S1 S2 ( , ) F / 2 ( n1 1, n2 1) F1-/2 ( n1 1, n2 1)
ˆ 1 ,, ˆ m ) max L(1 , , m ). L( L L
j
L
Stop
例 设X 1 , , X n ~ P ( ), 0,试求 L 例 设X 1 , , X n ~ N ( , 2 ), , 0,
Stop
2. 单正态总体方差的置信区间
设X 1, , X n ~ N (, 2 ) ,给定x1, , xn, 2 求出(或 )的置信区间。 (1) 未知 2 ( n 1) S 2 2 令 ~ ( n 1) 2 即得 2的置信度为1- 的置信区间为
iid
( n - 1)s ( 2 , /2 ( n 1)

ch7参数估计

ch7参数估计
估计值 .
问题是:
使用什么样的统计量去估计 µ ?
可以用样本均值;
可以用别的统计量 .
二、寻求估计量的方法 1. 矩估计法 2. 最大似然法 3. 最小二乘法 4. 贝叶斯方法 ……
这里我们主要介绍前面两种方法 .
1. 矩估计法
矩估计法是英国统计学家K.皮尔逊 最早提出来的 . 由辛钦定理 ,
( ) μ2 = E = X 2 D( X ) + [E( X )]2
(b − a)2 =
+ (a + b)2
12
4

a + b =2μ1
b= − a
12( μ2 − μ12 )
解得
a = μ1 − 3( μ2 − μ12 ) b = μ1 + 3( μ2 − μ12 )
于是 a , b 的矩估计量为
而全部信息就由这100个数组成 .
据此,我们应如何估计 µ 和 σ 呢 ?
为估计µ :
我们需要构造出适当的样本的函数 T(X1,X2,…Xn) , 每当有了样本,就代入该函数中算出一个值,用来
作为 µ 的估计值 .
T(X1,X2,…Xn) 称为参数 µ 的点估计量, 把样本值代入T(X1,X2,…Xn) 中,得到 µ 的一个点
基本思想:最大似然原理
若一试验有若干个可能结果, 现做一试验, 若事件A 发生了,而导致A发生的原因很多,在 分析导致结果A的原因时,使结果A发生的概率最 大的原因,推断为导致结果A发生的真实原因。
最大似然估计 就是在一次抽样中,若得到观测值
则选取 使得当
作为 的估计值, 时,样本出现的概率最大。
解:设
x(1)
m= in( x1 ,, xn ), x(n)

统计学(西财版) 第7章参数估计

统计学(西财版) 第7章参数估计
1 n
设总体X的分布的函数的形式为已知(如正态分布、泊松 分布等),但它的一个或多个参数未知,借助总体X的一 个样本来估计总体未知参数的值的问题,称为参数的 点估计问题。
统计学-ch7 suyl 6
如何寻找样本统计量?
有很多方法都可以用来构造样本统 计量,比如矩估计法、极大似然估计法、 最小二乘估计法、顺序统计量法…… 这里,我们主要介绍矩估计法和极 大似然估计法。
X
i 1
n
k
i
8
矩估计法的基本思想就是:
把样本矩作为相应的总体矩的估计量 样本均值
X
X
i 1
n
i
是一阶样本矩,
n 总体均值E(X)是一阶 总体矩。
将 X 作为E(X)的估计量的做法, 就是把一阶样本矩
作为一阶总体矩的估计量. 推广这种做法,把二阶样本矩作为二阶总体矩的估计量,
把三阶样本矩作为三阶总体矩的估计量,…… .
x / n 1310 1207 ... 1462 =1345.63(小时) u i 80 i 1 2 2
n
ˆ S
2
2
1010 1345.63
...... 1462 1345.63 =15388.85 80
统计学-ch7

S 2 124.05 (小时)
X ik / n去估计总体的K阶原点矩,即 分别用样本的k阶原点矩i 1
n


1 n k k 1 , 2 ..., k X i n i 1
统计学-ch7
i 1, 2, k
suyl 10
上式确定了包含个未知参数的个方程式,即有下列方程 组 1 n E( X ) n X i i 1 (6.2)
  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。

假定1,2未知
可编辑ppt
43
可编辑ppt
44
小结
总体 样本 统计量
点估计 矩估计
极大似然估计
抽样分布定理
区间估计
可编辑ppt
45
一般说,事件A发生的概率与参数有关,取值
不同,则P(A)也不同。因而应记事件A发生的概率
为P(A|).若A发生了,则认为此时的值应是在中
使P(A|) 达到最大的那一个。这就是极大似然思

可编辑ppt
9
1.设总体X为离散型随机变量,它的分布律为
现有样本观察值x1,x2,…xn,,其中xk取值于{ak, k=1,2…} 问:根据极大似然思想,如何用x1,x2,…xn估计?
可编辑ppt
20
注3:由似然方程解不出的似然估计时,可由定
义通过分析直接推求。事实上
满足
可编辑ppt
21
例9:设X1, … , Xn为取自 U(0,) 总体的 样本,>0未知,求参数 的极大似然估计。
可编辑ppt
22
7.2 估计量的评选标准
7.2.1 一致性
可编辑ppt
23
例1.设
已知0<p<1,求p
(2)令该函数落在由分位点确定的区间里的概 率为给定的置信度1,要求区间按几何对称或概 率对称;
(3)解不等式得随机的置信区间;
(4)由观测值及值查表计算得所求置信区间。
可编辑ppt
35
(1)解: 已知时,的置信度为1的置信区间为
这里
可编辑ppt
36
2、2未知
即得 m的1-a置信区间为
可编辑ppt
例6.设X1, … , Xn为取自参数为的泊松分 布总体的样本,求的极大似然估计
可编辑ppt
10
2.设总体X为连续型随机变量,概率密度f(x;) 现有样本观察值x1,x2,…xn, 问:根据极大似然思想,如何用x1,x2,…xn估计?
可编辑ppt
11
3、似然函数与极大似然估计 为该总体的似然函数。
第七章 参数估计
▪ 点估计 ▪ 估计量的评选标准 ▪ 区间估计 ▪ 正态总体参数的区间估计
可编辑ppt
1
7.1 点估计
7.1.1 参数估计的概念
定义 设X1, … , Xn是总体X的一个样本,其分 布函数为F(x; ), 。其中为未知参数, 为 参数空间, 若统计量g(X1, … , Xn)可作为的一
可编辑ppt
6
例3:设总体X的概率密度为 X1, … , Xn为样本,求参数的矩估计。
可编辑ppt
7
例4:设X1, … , Xn为取自
总体的样本,求参数
的矩估计。
可编辑ppt
8
7.1.3 极大似然估计法
1、极大似然思想
有两个射手,一人的命中率为0.9,另一 人的命中率为0.1,现在他们中的一个向目标射击 了一发,结果命中了,估计是谁射击的?
可编辑ppt
12
定义:若有
使得
则称 为的极大似然估计.记为
可编辑ppt
13
4、求极大似然估计的步骤 (1) 做似然函数
可编辑ppt
14
(2) 做对数似然函数
可编辑ppt
15
(3) 列似然方程 若该方程有解,则其解就是
可编辑ppt
16
注1:若概率函数中含有多个未知参数,则可 解方程组
可编辑ppt
统计量
都是E(X)的无偏估计,并求
a,b使所得统计量最有效
可编辑ppt
30
7.3 区间估计
7.3.1、概念
定义: 设总体X的分布函数F(x;)含有未知
参数,对于给定值(0< <1),若由样本X1, …,
Xn确定的两个统计量
使
则称随机区间
为的置信度为1的置信区间
注:F(x;)也可换成概率密度或分布律。
可编辑ppt
31
7.4 正态总体参数的区间估计
1、2已知
可编辑ppt
32Biblioteka 取/21- /2可编辑ppt
33
的置信度为1的置信区间为
注:的1置性区间不唯一。
(1-) 1-
都是的1置性区间.但=1/2时区间长最短.
可编辑ppt
34
求正态总体参数置信区间的解题步骤:
(1)根据实际问题构造样本的函数,要求仅含 待估参数且分布已知;
关键点: 1.用样本矩作为总体同阶矩的估计,即
2.约定:若 是未知参数的矩估计,则g()的 矩估计为g( ),
可编辑ppt
4
例1:设X1, … , Xn为取自总体B(m,p),的样本, 其中m已知,0<p<1未知,求p的矩估计。
可编辑ppt
5
例2:设X1, … , Xn为取自参数为的指数分布 总体的样本,求的矩估计。
的极大似然估计,并讨论所求估计量的一致性。
可编辑ppt
24
7.2.2、无偏性
可编辑ppt
25
易见
可编辑ppt
26
考察的矩估计和极大似然估计的无偏性
可编辑ppt
27
7.2.3 有效性
可编辑ppt
28
可编辑ppt
29
例3:设
分别为取自总体X的容量为n1,n2的两
个样本的样本均值,求证:对任意实数a>0,b>0,a+b=1
个估计,则称其为的一个估计量,记为
注:F(x;)也可用分布律或密度函数代替.
可编辑ppt
2
若x1, … , xn是样本的一个观测值。
由于g(x1, … , xn) 是实数域上的一个 点,现用它来估计, 故称这种估计为点估计。
点估计的经典方法是矩估计法与极大似 然估计法。
可编辑ppt
3
7.1.2 矩估计法(简称“矩法”)
1-
37
(2)解: 未知时,的置信度为1的置信区间为
这里
可编辑ppt
38
7.4.2 单正态总体方差的置信区间 假定m未知,
可编辑ppt
39
s2的置信度为1的置信区间为
可编辑ppt
40
7.4.3 双正态总体均值差的置信区间
可编辑ppt
41
可解得1- 2 的置信区间 其中
可编辑ppt
42
7.4.4 双正态总体方差比的置信区间
17
例7:设X1, … , Xn为取自
总体的样本,求参数
的极大似然估计

可编辑ppt
18
注2:极大似然估计具有下述性质: 若 是未知参数的极大似然估计,g()是的严格 单调函数,则g()的矩极大似然估计为g( ),
可编辑ppt
19
例8:设X1, … , Xn为取自参数为的指数分布 总体的样本,a>0为一给定实数。 求p=P{X<a}的极大似然估计
相关文档
最新文档