参数估计和置信区间75页PPT
合集下载
概率论与数理统计完整课件第七章参数估计PPT课件
n
L(1,2,,k ) L(x1, x2,, xk ;1,2,,k ) f (xi ;1,2,,k ) i 1
将其取对数,然后对1,2 ,,k 求偏导数,得
ln L(1, 2 ,, k ) 0 1
ln L(1, 2 ,, k ) 0 k
该 方 程 组 的 解 ˆi ˆi (x1, x2,, xn),i 1,2,,k ,即 为 i 的 极
§1 参数的点估计
设总体 X 的分布函数 F(x;) 形式已知，其中θ 是待估计的参数，点估计问题就是利用样本 (X1, X 2,, X n ) ，构造一个统计量ˆ ˆ(X1, X2,, Xn) 来估 计θ，我们称ˆ(X1, X2,, Xn )为θ的点估计量，它是 一个随机变量。将样本观测值 (x1, x2 ,, xn ) 代入估计 量 ˆ(X1, X2,, Xn ) ， 就 得 到 它 的 一 个 具 体 数 值 ˆ(x1, x2,, xn ) ，这个数值称为θ的点估计值.
如果样本中白球数为0,则应估计p=1/4,而不估计 p=3/4.因为具有X=0的样本来自p=1/4的总体的 可能性比来自p=3/4的总体的可能性要大.一般当 X=0,1时,应估计p=1/4;而当X=2,3时,应估计 p=3/4.
第10页/共71页
定义:设总体 X 的分布类型已知,但含有未知参数θ. (1)设离散型总体 X 的概率分布律为 p(x; ) ，则样本 (X1, X2,, Xn ) 的联合分布律
~~ 2n1nLeabharlann ini1n1x(i xix
x
)
2
由微积分知识易验证以上所求为μ与σ2的极大似然 估计.
第21页/共71页
• 例:设总体X具有均匀分布,其概率密度函数为
p(x;)
第八章 参数估计PPT课件
16
点估计
最大似然估计法
如 果 似 然 函 数 L (x 1 ,x 2 ,...,x n ; )在 ˆ 处 取 得 最 大 值 ,则 称 ˆ 为 总 体 参 数 的 最 大 似 然 估 计 .
由于函数y lnx在定义域内单增,则如果当
ˆ时似然函数L(x1, x2,..., xn;)取得最大值,则 当 ˆ时lnL(x1, x2,..., xn;)也取得最大值;反之 亦然.因此我们只需考虑lnL(x1, x2,..., xn;)的最
(1) X n1 X1 n2 X 2 是的无偏估计 ;
n1 n2
(2)S
2
(n1
1)S12
(n2
1)SLeabharlann 2 2是2的无偏估计
.
n1 n2 2
9
估计量优劣标准
有效估计
设 和 都是的无偏估计，若样本容量为n， 的
方差小于 的方差，则称 是比 有效的估计量。
如果在的一切无偏估计量里中， 的方差达到最小， 则称为的有效估计量。
(1) 设为连续型随机变量 , 其概率密度函数为
( x; ), 其中 为未知参数 ,由于样本的独立性 , 样
本( X 1, X 2 ,..., X n )的联合概率密度函数为
n
L( x1, x2 ,..., xn ; ) ( xi ; ) i 1
对于样本 ( X 1, X 2 ,..., X n )的一组观测值 ( x1, x2 ,..., xn )
是 向 量 ,则 求 偏 导 数 );
第 四 ,令 导 数 等 于 零 ,解 出 即 可 .
18
点估计
最大似然估计法的例题
1. 0—1分布中p的最大似然估计；
2. Poisson分布的参数 的最大似然估计； 3. 指数分布的参数 的最大似然估计;
点估计
最大似然估计法
如 果 似 然 函 数 L (x 1 ,x 2 ,...,x n ; )在 ˆ 处 取 得 最 大 值 ,则 称 ˆ 为 总 体 参 数 的 最 大 似 然 估 计 .
由于函数y lnx在定义域内单增,则如果当
ˆ时似然函数L(x1, x2,..., xn;)取得最大值,则 当 ˆ时lnL(x1, x2,..., xn;)也取得最大值;反之 亦然.因此我们只需考虑lnL(x1, x2,..., xn;)的最
(1) X n1 X1 n2 X 2 是的无偏估计 ;
n1 n2
(2)S
2
(n1
1)S12
(n2
1)SLeabharlann 2 2是2的无偏估计
.
n1 n2 2
9
估计量优劣标准
有效估计
设 和 都是的无偏估计，若样本容量为n， 的
方差小于 的方差，则称 是比 有效的估计量。
如果在的一切无偏估计量里中， 的方差达到最小， 则称为的有效估计量。
(1) 设为连续型随机变量 , 其概率密度函数为
( x; ), 其中 为未知参数 ,由于样本的独立性 , 样
本( X 1, X 2 ,..., X n )的联合概率密度函数为
n
L( x1, x2 ,..., xn ; ) ( xi ; ) i 1
对于样本 ( X 1, X 2 ,..., X n )的一组观测值 ( x1, x2 ,..., xn )
是 向 量 ,则 求 偏 导 数 );
第 四 ,令 导 数 等 于 零 ,解 出 即 可 .
18
点估计
最大似然估计法的例题
1. 0—1分布中p的最大似然估计；
2. Poisson分布的参数 的最大似然估计； 3. 指数分布的参数 的最大似然估计;
第七章 参数估计PPT资料77页
最先出现的事件是发生概率最大的事件。或者说， 小概率事件在一次试验中几乎不可能发生。
10
以总体X为连续型随机变量为例说明参数的 最大似然估计。 定 义 (似 然 函 数 ) 设 总 体 X 的 概 率 密 度 函 数 为 f X (, ) ( 为 未 知 参 数 ), 若 的 取 值 使 样 本 ( X 1 , X 2 ,L , X n )的 联 合 密 度 函 数 在 样 本 观 测 值 ( x1, x2 ,L , xn ) 处 取 得 最 大 ， 记 样 本 的 联 合 密 度 函 数 为 L ( x1 , x 2 ,L , x n , )， 由 样 本 的 特 性 (独 立 同 分 布 — 简 单 随 机 样 本 )， 有
本章引言
统计推断的基本问题可以分为两大类：
一类是估计问题；另一类是假设检验问题。
在实际问题中，往往已知总体X的分布函数的形式，
但其一个或几个参数未知，因此只有在确定这些参数后，
才能通过其分布来计算概率。如何确定这些参数的数值呢？
这就是统计推断中的“参数估计”问题。
借助总体X的一个样本来估计总体未知参数的值的问
2
12
a
EX
3V a r X
b E X 3V a r X
用
X
代
替
EX
，
用
S
2 n
代
替
Var
X
，
再
用
aˆ 代
替
a，
bˆ代
替
b，
aˆ M bˆM
X X
3 S n ,
3
S
。
n
1
其
中
Sn
(
S
2 n
)
10
以总体X为连续型随机变量为例说明参数的 最大似然估计。 定 义 (似 然 函 数 ) 设 总 体 X 的 概 率 密 度 函 数 为 f X (, ) ( 为 未 知 参 数 ), 若 的 取 值 使 样 本 ( X 1 , X 2 ,L , X n )的 联 合 密 度 函 数 在 样 本 观 测 值 ( x1, x2 ,L , xn ) 处 取 得 最 大 ， 记 样 本 的 联 合 密 度 函 数 为 L ( x1 , x 2 ,L , x n , )， 由 样 本 的 特 性 (独 立 同 分 布 — 简 单 随 机 样 本 )， 有
本章引言
统计推断的基本问题可以分为两大类：
一类是估计问题；另一类是假设检验问题。
在实际问题中，往往已知总体X的分布函数的形式，
但其一个或几个参数未知，因此只有在确定这些参数后，
才能通过其分布来计算概率。如何确定这些参数的数值呢？
这就是统计推断中的“参数估计”问题。
借助总体X的一个样本来估计总体未知参数的值的问
2
12
a
EX
3V a r X
b E X 3V a r X
用
X
代
替
EX
，
用
S
2 n
代
替
Var
X
，
再
用
aˆ 代
替
a，
bˆ代
替
b，
aˆ M bˆM
X X
3 S n ,
3
S
。
n
1
其
中
Sn
(
S
2 n
)
第7章 参数估计—概率课件PPT
X的密度为：
f
x
x 1
0
0 x 1 其他
lnL
n 2
ln
令
dlnL
d
n 2
1
2
1
1
n
ln xi
ni 1
ln xi
i 1
0
即：
n
n
ln xi
i 1
的极大似然估计量为：ˆ
n
n2
2
lnX
i
10
i1
例4：设总体X的概率密度为：f x 1 ex
x
,
0
其它
其中 0, , 是未知常量, X1, , X n 为X的样本，
故 X1 min X1, X 2 ,
, Xn,
又lnL nln
1
n
Xi
i 1
ˆ
令 dlnL d
n
1
2
n i 1
X i X 1
0
ˆ X X1
12
例5：设总体X 服从0, 上的均匀分布， 0未知，
试由样本 x1, x2, , xn求出的极大似然估计和矩估计。
解：1 极大似然估计
5
例2：设总体X的密度为：
f
x
x 1
0
0 x 1 0为未知参数，
其他
X1,
X
，
2
,
X n 为取自X的样本，求的矩估计。
解：E X xf x dx 1 x dx
0
1
令E X X
X 1
2
ˆ X
1 X
6
二．极大似然估计法
极大似然估计的原理介绍
X1, X 2, , X n 是取自X的一个样本，试求, 2的矩估计。
应用统计学第6章参数估计(置信区间)ppt课件
从中解得
P{(n1)S2 2(n1)S2 }1
22(n1)
(n1) 2
p1 p t精选版2
20
于是 所求置信区间为：
(n1)S2 (n1)S2
[2
, 2(n1)
2 1
] 2(n 的 95% 置
信解区：间由。例1，S2 =196.52，n =10，
（1）实用中应在保证足够可靠的前提 下，尽量使得区间的长度短一些 .
（2）增大样本容量n,可在保证足够可 靠的前提下,提高估计的精度.
n
n
L 2 z /2
n
ppt精选版
31
估计均值μ时的样本容量n确定
1.指定估计的精度:
dX dL2z/2
n
2.指定估计的可靠度1-α;
3.确定σ:
(1)由历史资料确定;
对给定的置信水平1,
查正态分布表得 z 2 ,
使 P{|Xn|z2}1
ppt精选版
6
从中解得：
P{X nz2
Xnz2}
1
于是所求的 置信区间为
[X nz2, X nz2]
也可简记为
X n z 2
ppt精选版
7
求置信区间的一般步骤(1-2):
给定置信水平1：
1. 寻找参数的一个良好的点估计
T (X1,X2,…Xn)
实用中应在保证足够可靠的前提下，尽
量使得区间的长度短一些 .
ppt精选版
28
置信度与置信区间长度的关系
考虑单个正态总体μ的置信区间: 当σ已知时,
Z X n
~N(0, 1)
例如，由 P(-1.96≤U≤1.96)=0.95
我们得到 均值 的置信水平为 1 的
P{(n1)S2 2(n1)S2 }1
22(n1)
(n1) 2
p1 p t精选版2
20
于是 所求置信区间为：
(n1)S2 (n1)S2
[2
, 2(n1)
2 1
] 2(n 的 95% 置
信解区：间由。例1，S2 =196.52，n =10，
（1）实用中应在保证足够可靠的前提 下，尽量使得区间的长度短一些 .
（2）增大样本容量n,可在保证足够可 靠的前提下,提高估计的精度.
n
n
L 2 z /2
n
ppt精选版
31
估计均值μ时的样本容量n确定
1.指定估计的精度:
dX dL2z/2
n
2.指定估计的可靠度1-α;
3.确定σ:
(1)由历史资料确定;
对给定的置信水平1,
查正态分布表得 z 2 ,
使 P{|Xn|z2}1
ppt精选版
6
从中解得：
P{X nz2
Xnz2}
1
于是所求的 置信区间为
[X nz2, X nz2]
也可简记为
X n z 2
ppt精选版
7
求置信区间的一般步骤(1-2):
给定置信水平1：
1. 寻找参数的一个良好的点估计
T (X1,X2,…Xn)
实用中应在保证足够可靠的前提下，尽
量使得区间的长度短一些 .
ppt精选版
28
置信度与置信区间长度的关系
考虑单个正态总体μ的置信区间: 当σ已知时,
Z X n
~N(0, 1)
例如，由 P(-1.96≤U≤1.96)=0.95
我们得到 均值 的置信水平为 1 的
参数的点估计与区间估计 ppt课件
第七章 参数估计
进行统计推断的一般步骤为: 总体 随机抽样 样本
统计量
作出推断
统计推断的
基本问题
参数的点估计 参数估计问题
参数的区间估计
参数假设检验 假设检验问题
非参数假设检验
参数估计问题: 就是要利用样本, 对总体 分布中包含的未知参数或未知参数的某些函数 作出估计.
如: 估计产品的废品率; 估计湖中鱼的数量; 估计降雨量等等.
,
2
解得 2E( X ) ,
总体矩用相应的样本矩代替, 得矩估计量:
2
1
n
X
i
2X
.
n i1
二、 极大似然估计法 是在总体类型已知的条件下使用的一种参数
估计方法 . 其基本思想是概率最大的事件最可能发生 .
例如: 某位同学与一位猎人一起外出打猎 .一只野兔 从前方窜过 . 只听一声枪响，野兔应声倒下 . 是谁打中的呢？
同样是无偏估计量, 有的取值较集中, 有的 取值较分散. 自然是: 取值越集中的越好. 由此 引入了有效性这个标准 .
估计量与样本容量有关, 我们希望: 随着样 本容量的无限增大, 估计量与被估计量任意接近 的可能性越来越大. 由此引入了一致性这个标准.
无偏性: 若 E( ) , 则称 是 的无偏估计.
根据“概率最大的事件最可能发生”，我们可取
使
概率
n
f
(
xi
;
)d
xi
达到最大的参数
作为
的估计；
i 1
n
n
即求 使 f ( xi;
进行统计推断的一般步骤为: 总体 随机抽样 样本
统计量
作出推断
统计推断的
基本问题
参数的点估计 参数估计问题
参数的区间估计
参数假设检验 假设检验问题
非参数假设检验
参数估计问题: 就是要利用样本, 对总体 分布中包含的未知参数或未知参数的某些函数 作出估计.
如: 估计产品的废品率; 估计湖中鱼的数量; 估计降雨量等等.
,
2
解得 2E( X ) ,
总体矩用相应的样本矩代替, 得矩估计量:
2
1
n
X
i
2X
.
n i1
二、 极大似然估计法 是在总体类型已知的条件下使用的一种参数
估计方法 . 其基本思想是概率最大的事件最可能发生 .
例如: 某位同学与一位猎人一起外出打猎 .一只野兔 从前方窜过 . 只听一声枪响，野兔应声倒下 . 是谁打中的呢？
同样是无偏估计量, 有的取值较集中, 有的 取值较分散. 自然是: 取值越集中的越好. 由此 引入了有效性这个标准 .
估计量与样本容量有关, 我们希望: 随着样 本容量的无限增大, 估计量与被估计量任意接近 的可能性越来越大. 由此引入了一致性这个标准.
无偏性: 若 E( ) , 则称 是 的无偏估计.
根据“概率最大的事件最可能发生”，我们可取
使
概率
n
f
(
xi
;
)d
xi
达到最大的参数
作为
的估计；
i 1
n
n
即求 使 f ( xi;
参数估计 教学PPT课件
• 2.极大似然估计法
•（1）写出总体X的分布律或密度函数f(x,θ)
•（2）写出Biblioteka 然函数L( x1,n
, xn, ) f (xi , )
i 1
•（3）对似然函数取对数 ln L(x1,, xn , )
•（4）对 ln L(x1,, xn , ) 求导得似然方程
•（5）解似然方程，得极大似然估计量
(n
1))
又 X ?, S ? n 16, 0.1, t1 2 (n 1) ?
区间估计例题
• 例2：从自动机床加工的同类产品中随 机抽取16件，测得长度值为：12.50， 12.12，12.01，12.28，12.09，12.16， 12.03，12.01，12.06，12.13，12.07， 12.11，12.08，12.01，12.03，12.06，
0.90的置信区间：
（1）如果已知σ＝0.01 （2）如果σ未知
区间估计例题
解：（1）σ＝0.01已知，a的置信度为1-α的置
信区间为
0.01 ( X n u1 2 )
又 X ?, n 16, 0.1, u1 2 1.645
（2）σ未知，a的置信度为1-α的置信区间为
(X
S n
1
t1
2
ˆ ˆ(X1,, X n )
极大似然估计法例题
例1：设总体X~(0-1)分布,求p的极大似然估计.
解：总体X的分布律 P(X x) px (1 p)1x, x 0,1
似然函数 取对数
n
L( p) pxi (1 p)1xi pnx (1 p)nnx i 1
ln L( p) nx ln p (n nx) ln(1 p)
设产品长度X～N(a,σ2). 求σ2的置信区间（α＝0.05）
7.3置信区间 课件(共15张PPT)- 《概率论与数理统计(第2版)》同步教学(人民邮电版)
X
u1 2
n
,
X
u1 2
n
第7章 参数估计
15
4
称 θ为θ 的双侧1置信区间的下限; 称θ 为θ的双侧1置信区间的上限,
简称双侧置信下限或者上限. 抽样以后就得到置信区间的观测值:
θ x1, , xn , θ x1, , xn
置信区间
置信水平1 的几何解释
6
第7章 参数估计
5
置信区间
置信水平1 的几何解释
6
第7章 参数估计
6
置信区间
置信区间
第7章 参数估计
14
设 X1, X2 , Xn 是取自正态总体 N , 2 的一个样 本, 给定置信水平为1 ,
已知方差 2，求期望 的 双侧置信区间:
X1
Xn X
Xi
X2
θ
θ
X a X b
置信区间
则 a,b 满足
PX a X b 1
P
a
n
X
b
1
取 a u1 /,2 b u1 /,2
1 置信区间.
其中 θ θ X1, , Xn , θ θ X1, , Xn 都是统计量.
置信区间
第7章 参数估计
13
满足 P a G ˆ, b =1 的 a, b 可以有很多组解，常选择 a, b ，使得左右
两个尾部的概率各为 ，即
2
P G ˆ, b =P G ˆ, a . 2 这样得到的置信区间称为等尾置信区间.
置信水平95%的几何解释
6
第7章 参数估计
7
置信区间
置信水平50%的几何解释
6
第7章 参数估计
8
置信区间