概率论与数理统计 第七章 参数估计

合集下载

概率论与数理统计第7章

概率论与数理统计第7章

x 0 , x 0 ,x 1 ,x 2 ,
,x n 为 总 体 X
的 一 个 样 本 ,则 未 知 参 数 的 矩 估 计 ˆ _ _ _ _ _ _ _ _ _ _ _ .
这个例子所作的推断已经体现了极大似然法 的基本思想 .
最大似然估计原理:
设X1,X2,…Xn是取自总体X的一个样本,样 本的联合密度(连续型)或联合分布律 (离散型)为
f (x1,x2,… ,xn ; ) .
当给定样本X1,X2,…Xn时,定义似然函数为:
L() f (x1, x2 ,…, xn; )

pˆ1Βιβλιοθήκη nn i 1xix
即为 p 的最大似然估计值 .
从而 p 的最大似然估计量为
p ˆ(X1,
1n ,Xn)ni1Xi X
求最大似然估计(MLE)的一般步骤是:
(1) 由总体分布导出样本的联合分布率(或联 合密度);
(2) 把样本联合分布率 ( 或联合密度 ) 中自变
量看成已知常数,而把参数 看作自变量,得到似然 函数L();
要求:领会
2.2 估计量的有效性、相合性, 要求:领会
3.区间估计
3.1 置信区间的概念,
要求:领会
3.2 求单个正态总体均值和方差的置信区间,要求:简单应用
参数估计
现在我们来介绍一类重要的统计推断问题
参数估计问题是利用从总体抽样得到的信息来估计总体 的某些参数或者参数的某些函数.
估计新生儿的体重
1 p
n
pxi (1p)1xi
i1
n
n
xi
n xi
pi1 (1p) i1
n
n
xi
n xi
L(p)pi1 (1p) i1

概率论与数理统计教案参数估计

概率论与数理统计教案参数估计

概率论与数理统计教案-参数估计教案章节一:参数估计概述教学目标:1. 理解参数估计的定义及意义;2. 掌握参数估计的两种方法:最大似然估计和最小二乘估计;3. 了解参数估计的假设条件。

教学内容:1. 参数估计的定义及意义;2. 最大似然估计和最小二乘估计的方法及步骤;3. 参数估计的假设条件。

教学方法:1. 讲授法:讲解参数估计的定义、意义、方法及步骤;2. 案例分析法:分析实际案例,让学生更好地理解参数估计的方法及应用。

教学难点:1. 最大似然估计和最小二乘估计的方法及步骤;2. 参数估计的假设条件。

教学准备:1. 教学PPT;2. 相关案例资料。

教学过程:1. 引入参数估计的概念,讲解其意义;2. 讲解最大似然估计和最小二乘估计的方法及步骤;3. 分析实际案例,展示参数估计的应用;4. 讲解参数估计的假设条件;5. 课堂互动,回答学生问题。

作业布置:1. 复习parameter estimation 的定义及意义;2. 学习maximum likelihood estimation 和least squares estimation 的相关知识;3. 思考如何应用parameter estimation 解决实际问题。

教案章节二:最大似然估计教学目标:1. 理解最大似然估计的定义及意义;2. 掌握最大似然估计的计算方法;3. 了解最大似然估计的应用场景。

教学内容:1. 最大似然估计的定义及意义;2. 最大似然估计的计算方法;3. 最大似然估计的应用场景。

教学方法:1. 讲授法:讲解最大似然估计的定义、意义、计算方法;2. 案例分析法:分析实际案例,展示最大似然估计的应用。

教学难点:1. 最大似然估计的计算方法;2. 最大似然估计的应用场景。

教学准备:1. 教学PPT;2. 相关案例资料。

教学过程:1. 引入最大似然估计的概念,讲解其意义;2. 讲解最大似然估计的计算方法;3. 分析实际案例,展示最大似然估计的应用;4. 课堂互动,回答学生问题。

概率论与数理统计复习7章

概率论与数理统计复习7章

( n − 1) S 2 ( n − 1) S 2 = 1 − α 即P 2 <σ2 < 2 χα 2 ( n − 1) χ1−α 2 ( n − 1) ( n − 1) S 2 ( n − 1) S 2 置信区间为: 2 , χα 2 ( n − 1) χ12−α 2 ( n − 1)
则有:E ( X v ) = µv (θ1 , θ 2 ,⋯ , θ k ) 其v阶样本矩是:Av = 1 ∑ X iv n i =1
n
估计的未知参数,假定总体X 的k阶原点矩E ( X k ) 存在,
µ θ , θ ,⋯ , θ = A k 1 1 1 2 µ2 θ1, θ 2 ,⋯ , θ k = A2 用样本矩作为总体矩的估计,即令: ⋮ µ θ , θ ,⋯ , θ = A k k k 1 2 ɵ ɵ ˆ 解此方程即得 (θ1 , θ 2 ,⋯ , θ k )的一个矩估计量 θ 1 , θ 2 ,⋯ , θ k
+∞
−∞
xf ( x ) dx = ∫ θ x θ dx =
1 0
令E ( X ) = X ⇒
θ +1
θ
ˆ = X ⇒θ =
( )
X 1− X
θ +1
2
θ
7.2极大似然估计法
极大似然估计法: 设总体X 的概率密度为f ( x,θ ) (或分布率p( x,θ )),θ = (θ1 ,θ 2 ,⋯ ,θ k ) 为 未知参数,θ ∈ Θ, Θ为参数空间,即θ的取值范围。设 ( x1 , x2 ,⋯ , xn ) 是 样本 ( X 1 , X 2 ,⋯ , X n )的一个观察值:
i =1 n

概率论与数理统计第7章参数估计PPT课件

概率论与数理统计第7章参数估计PPT课件
5
a1(1, ,k )=v1
1 f1(v1, ,vk )
假定方程组a2(1, ,k ) v2 ,则可求出2 f2(v1, ,vk )
ak (1, ,k ) vk
k fk (v1, ,vk )
则x1 xn为X的样本值时,可用样本值的j阶原点矩Aj估计vj,其中
Aj
1 n
n i1
xij ( j
L(x1, ,xn;ˆ)maxL(x1, ,xn;),则称ˆ(x1, ,xn)为
的一种参数估计方法 .
它首先是由德国数学家
高斯在1821年提出的 ,然而, 这个方法常归功于英国统
Gauss
计学家费歇(Fisher) . 费歇在1922年重新发现了
这一方法,并首先研究了这
种方法的一些性质 .
Fisher
10
极大似然估计是在已知总体分布形式的情形下的 点估计。
极大似然估计的基本思路:根据样本的具体情况
注:估计量为样本的函数,样本不同,估计量不 同。
常用估计量构造法:矩估计法、极大似然估计法。
4
7.1.1 矩估计法
矩估计法是通过参数与总体矩的关系,解出参数, 并用样本矩替代总体矩而得到的参数估计方法。 (由大数定理可知样本矩依概率收敛于总体矩, 且许多分布所含参数都是矩的函数)
下面我们考虑总体为连续型随机变量的情况:
n
它是的函数,记为L(x1, , xn; ) f (xi , ), i 1
并称其为似然函数,记为L( )。
注:似然函数的概念并不仅限于连续随机变量 ,
对于离散型随机变量,用 P {Xx}p(x,)
替代f ( x, )
即可。
14
设总体X的分布形式已知,且只含一个未知参数,

概率论与数理统计讲义 (27)

概率论与数理统计讲义 (27)

原点矩
由矩法,
0
X 1
2
总体矩
样本矩
2
从中解得 ˆ 2X 1 , 即为 的矩估计.
1 X
例2 设X1,X2,…Xn是取自总体X的一个样本
X
~
f
(
x)
1
e( x
)
,
x
, 为未知参数
0,
其它
其中 >0,求 , 的矩估计.
解: 由密度函数知
X 具有均值为 的指数分布
故 E(X- )= 即 E(X)=
缺点是,当总体类型已知时,没有 充分利用分布提供的信息 . 一般场合下, 矩估计量不具有唯一性 .
其主要原因在于建立矩法方程时, 选取那些总体矩用相应样本矩代替带 有一定的随意性 .
第 七 章第一节 矩估计
矩是基于一种简单的“替换” 思想建立起来的一种估计方法 .
是英国统计学家K.皮尔逊最早提出的 .
其基本思想是用样本矩估计总体矩 . 理论依据: 大数定律
记总体k阶矩为 k E( X k )
样本k阶矩为
Ak
1 n
n i 1
X
k i
记总体k阶中心矩为 k E[ X E( X )]k
参数估计问题的一般提法
设有一个统计总体,总体的分布函数
为 F(x, ),其中为未知参数 ( 可以是
向量) . 现从该总体抽样,得样本 X1, X2 , … , Xn
要依据该样本对参数 作出估计,或估计 的某个已知函数 g( ) .
这类问题称为参数估计.
点估计
参数估计
区间估计
假如我们要估计某队男生的平均身高.
1
n
n i 1
X
m i

《概率论与数理统计》第七章假设检验.

《概率论与数理统计》第七章假设检验.

《概率论与数理统计》第七章假设检验.第七章假设检验学习⽬标知识⽬标:理解假设检验的基本概念⼩概率原理;掌握假设检验的⽅法和步骤。

能⼒⽬标:能够作正态总体均值、⽐例的假设检验和两个正态总体的均值、⽐例之差的假设检验。

参数估计和假设检验是统计推断的两种形式,它们都是利⽤样本对总体进⾏某种推断,然⽽推断的⾓度不同。

参数估计是通过样本统计量来推断总体未知参数的取值范围,以及作出结论的可靠程度,总体参数在估计前是未知的。

⽽在假设检验中,则是预先对总体参数的取值提出⼀个假设,然后利⽤样本数据检验这个假设是否成⽴,如果成⽴,我们就接受这个假设,如果不成⽴就拒绝原假设。

当然由于样本的随机性,这种推断只能具有⼀定的可靠性。

本章介绍假设检验的基本概念,以及假设检验的⼀般步骤,然后重点介绍常⽤的参数检验⽅法。

由于篇幅的限制,⾮参数假设检验在这⾥就不作介绍了。

第⼀节假设检验的⼀般问题关键词:参数假设;检验统计量;接受域与拒绝域;假设检验的两类错误⼀、假设检验的基本概念(⼀)原假设和备择假设为了对假设检验的基本概念有⼀个直观的认识,不妨先看下⾯的例⼦。

例7.1 某⼚⽣产⼀种⽇光灯管,其寿命X 服从正态分布)200 ,(2µN ,从过去的⽣产经验看,灯管的平均寿命为1550=µ⼩时,。

现在采⽤新⼯艺后,在所⽣产的新灯管中抽取25只,测其平均寿命为1650⼩时。

问采⽤新⼯艺后,灯管的寿命是否有显著提⾼?这是⼀个均值的检验问题。

灯管的寿命有没有显著变化呢?这有两种可能:⼀种是没有什么变化。

即新⼯艺对均值没有影响,采⽤新⼯艺后,X 仍然服从)200 ,1550(2N 。

另⼀种情况可能是,新⼯艺的确使均值发⽣了显著性变化。

这样,1650=X 和15500=µ之间的差异就只能认为是采⽤新⼯艺的关系。

究竟是哪种情况与实际情况相符合,这需要作检验。

假如给定显著性⽔平05.0=α。

在上⾯的例⼦中,我们可以把涉及到的两种情况⽤统计假设的形式表⽰出来。

概率论与数理统计-参数估计

概率论与数理统计-参数估计

第七章 参数估计
例:
引言
设总体 X 是服从参数为 的指数分布,其中参数
未 知 ,
0 .X1 ,,
X
是总体
n
X
的一个样本,
我们的任务是根据样本,来估计 的取值,从
而估计总体的分布.
这 是 一 个 参 数 估 计 问 题.
第七章 参数估计
§1 点估计 §2 估计量的评选标准 §3 区间估计
第七章 参数估计 §1 点估计
2

A1
A2
, (
2
1)
.
第七章 参数估计
例6(续)
解此方程组,得
§1 点估计
ˆ
A1 2 A2 A12
,
ˆ
A2
A1 A12
.
ˆ X 2 ,

B2
ˆ X .
B2
其中 B2
1 n
n i 1
Xi X
2 为样本的二阶中心矩.
第七章 参数估计(第二十二讲) 三、 极大似然法
§1 点估计
1
第七章 参数估计
例6(续)
EX 2 x 2 f
x dx x 2
x 1e x dx
0
§1 点估计
2 2 x ( e 2)1 x dx
2 0 2
2 2
1 2
1
2
因此有
EX
,
EX
2
1 .
⑵ 在不引起混淆的情况下,我们统称估计量
与估计值为未知参数 的估计.
第七章 参数估计
二、 矩估计法
§1 点估计
设X为连续型随机变量,其概率密度为
f ( x;1 ,, k ), X为离散型随机变量,其分布列为

《概率论与数理统计》7

《概率论与数理统计》7

未知参数 , ,, 的函数.分别令
12
k
L(1,,k ) 0,(i 1,2,...,k)
或令
i
ln L(1,,k ) 0,(i 1,2,...,k)
i
由此方程组可解得参数 i 的极大似然估计值 ˆi.
例5 设X~b(1,p), X1, X2 , …,Xn是来自X的一个样本,
求参数 p 的最大似然估计量.
解 E( X ) ,E( X 2 ) D( X ) [E( X )]2 2 2
由矩估计法,
【注】
X
1
n
n i 1
X
2 i
2
2
ˆ X ,
ˆ
2
1 n
n i 1
(Xi
X )2
对任何总体,总体均值与方差的矩估计量都不变.
➢常见分布的参数矩估计量
(1)若总体X~b(1, p), 则未知参数 p 的矩估计量为
7-1
第七章
参数估计
统计 推断
的 基本 问题
7-2
参数估 计问题
(第七章)
点估计 区间估 计
假设检 验问题 (第八章)
什么是参数估计?
参数是刻画总体某方面概率特性的数量.
当此数量未知时,从总体抽出一个样本, 用某种方法对这个未知参数进行估计就 是参数估计.
例如,X ~N ( , 2),
若, 2未知, 通过构造样本的函数, 给出
k = k(A1, A2 , …, A k)
用i 作为i的估计量------矩估计量.
例1 设总体X服从[a,b]上的均匀分布,a,b未知,
X1, X2 , …,Xn为来自总体X的样本,试求a,b的 矩估计量.
解 E(X ) a b , D(X ) (b a)2
  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。

422.2 418.7 425.6 420.3 425.8 423.1 431.5 428.2
438.3 434.0 411.3 417.2 413.5 441.3 423.0
假设飞机最大飞行速度服从 N(424.93, 2 ) 求最
大飞行速度的方差的置信度为0.90的置信区间。
解:n 15, 424.93, 1 0.90 0.1
置信区间定义:
设θ 是 一个待估参数,给定 0,
若由样本X1,X2,…Xn确定的两个统计量
ˆ1 ˆ1( X1, X2, , Xn), ˆ2 ˆ2( X1, X2, , Xn)
(ˆ1 ˆ2 ) 满足 P(ˆ1 ˆ2) 1
则称区间 [ˆ1,ˆ2 ]是θ 的置信度为 1 的置
信区间.
则称 ˆn 是参数 的一致估计量.
切比雪夫大数定律 lim n
P(|
1 n
n i1
X
i
|
)
1
设样本X1,L , Xn来自数学期望E(X ) ,方差D(X ) 2
的总体,则X 是的一致估计量。
伯努利大数定律
设总体为参数为p的0-1分布,X1,L
,
X
为样本,
n
则X 是p的一致估计量。
§7.3
i 1
若方程有解,
求出L(θ)的最大值点 ˆ(x1,x2,..., xn )
例2. 设总体X服从参数λ>0的泊松分布,求 参数λ的极大似然估计量。
例3. 已知某产品的不合格率为p,有简单随机样本 X1 ,X2 ,…, Xn,求p的极大似然估计量。 若抽取100件产品,发现10件次品,试估计p.
0
ˆ
1 n
n i 1
xi
ˆ 2
1 n
n i 1
( xi
x
x )2
ˆ X
ˆ
2
n 1S2 n
求极大似然估计量的步骤:
n
(1) 根据f(x; θ),写出似然函数 L( ) f (xi; )
n
i 1
(2) 对似然函数取对数 ln L( ) ln f (xi; )
(3) 写出方程 ln L 0
设X1,…Xn是取自 N (, 2 )的样本, 2已知,
求参数 的置信度为1 的置信区间.
利用 X ~ N (0,1) / n
查正态分布表得 u 2,
使
P{|
X
n
|
u
2}
1
例1:随机地从一批服从正态分布N(μ,0.022)的零 件16个,分别测得其长度为:
2.14 2.10 2.13 2.15 2.13 2.12 2.13 2.10
评价一个估计量的好坏,不能仅仅依据一 次试验的结果,而必须由多次试验结果来衡量 . 即确定估计量好坏必须在大量观察的基础上从 统计的意义来评价。
常用的几条标准是:
1.无偏性 2.有效性 3.一致性
一、无偏性
设 ˆ( X1, , Xn)是未知参数 的估计量,若 E(ˆ)
则称 ˆ 为 的无偏估计 .
如果只知道0<p<1,并且实 测记录是X=k (0 ≤ k≤ n),又 应如何估计p呢?
若总体分布已知,对于样本值,选取适当 的参数,使样本值出现的概率最大,这种 估计方法就是极大似然估计法。
➢极大似然估计法
设总体X的分布律或概率密度为f(x; Ө), θ=(θ1, θ2,…, θk)是未知参数, X1,X2, …,Xn是 总体X的样本,则称X1,X2, …,Xn的联合分布 律或概率密度函数
例2:假设某地区18~25岁女青年身高X ~ N(, 2) 现抽取30名,样本均值为158cm,样本方差为 (5cm)2,求σ2的置信水平为95%的区间估计。
设X1,…Xn是取自 N (, 2 )的样本,
求参数 2 的置信度为 1的置信区间.
确定分位数 12 / 2 (n 1), 2 / 2 (n 1) 使
Ak
1 n
n i 1
X
k i
K.皮尔逊
n
X
k i
大数定律: lim P(| i1 E( X k ) | ) 1
n
n
矩估计基本思想: 用样本矩估计总体矩 .
设总体的分布函数中含有k个未知参数 1, ,k
(1)它的前k阶原点矩都是这k个参数的函数,记为:
(2)用样本i阶原点矩替换总体i阶原点矩
(3) 解方程组,得 θi=hi (X1, X2,…, Xn) (i=1,2,…,k);
)
1 12
(b
a)2
1 12
(bˆ
aˆ)2
M2
n 1S2 n
aˆ X 3(n 1) S 2, bˆ X 3(n 1) S 2
n
n
矩法特点分析:
矩法的优点是简单易行,并不需要 事先知道总体是什么分布 .
缺点是,当总体类型已知时,没有 充分利用分布提供的信息 .
极大似然估计
例: 设一箱中装有若干个白色和黑色的球, 已知两种球的数目之比为3:1或1:3,现有放回 地任取3个球,有两个白球,问:白球所占的 比例p是多少?
ˆ1和ˆ2 分别称为置信下限和置信上限.
§7.4
单正态总体四种类型的区间估计
1. 期望的区间估计 σ2已知时μ的置信区间 σ2未知时μ的置信区间
2. 求方差的区间估计 μ已知时σ2的置信区间 μ未知时σ2的置信区间
已知方差,求期望的区间估计
例1:随机地从一批服从正态分布N(μ,0.022)的零 件16个,分别测得其长度为: 2.14 2.10 2.13 2.15 2.13 2.12 2.13 2.10 2.15 2.12 2.14 2.10 2.13 2.11 2.14 2.11 估计该批零件的平均长度μ,并求μ的置信区间 (α=0.05)
L(, 2)
i 1
1
2
exp[
1
2
2
( xi
)2 ]
(2
n
)2
(
)2
n 2
exp[
1
2
2
n
(xi )2 ]
i 1
ln
L(,
2
)
n 2
ln(
2
)
n 2
ln
2
1
2
2
n
( xi
i 1
)2
ln L
1
2
[
n i 1
xi
n ]
0
ln L
2
n
2
2
1
2( 2
)2
n
( xi
i 1
n)2
例4. 设X1,X2,…,Xn为取自总体X~U(a, b)的样 本, 求a, b的极大似然估计量.
回顾: 设X1,X2,…Xn是取自总体X的一个样本
X
~
f
(x)
(
1)x ,
0,
0 x 1 其它
其中 >0,
求 的矩估计量和极大似然估计量.
解:(1)矩估计
E(X )
xf (x)dx
1 x( 1)x dx 1
P{
2 1
2(n 1)
(n 1)S2
2
2
2(n 1)} 1
例2:假设某地区18~25岁女青年身高 现抽取30名,样本均值为158cm,样本方差为 (5cm)2,求σ2的置信水平为95%的区间估计。
μ已知,求方差的区间估计
例3:随机地从一批服从正态分布N(2.12, σ2)的 零件16个,分别测得其长度为: 2.14 2.10 2.13 2.15 2.13 2.12 2.13 2.10 2.15 2.12 2.14 2.10 2.13 2.11 2.14 2.11 试求σ2的置信水平为0.95的置信区间。
设X1,…Xn是取自N (, 2 )的样本, μ已知
求参数 2 的置信度为1 的置信区间.
确定分位数
2 1
/
2
(n),
2
/
2
(n)
使
n
(Xi )2
P{12 2 (n) i1 2
2 2 (n)} 1
例4. 对飞机的飞行速度进行15次独立试验,测 得飞机的最大飞行速度(单位:m/s)如下:
X u 2
2.135 n
μ的置信区间为(2.115,2.135).
求置信区间的步骤
(1) 构造仅与待估参数θ 有关,但分布已知的 函数U;
(2) 给定置信度1-α,得常数a,b,使 P{a<U<b}= 1-α;
(3) 将a<U<b变形,使得:
ˆ1(X1, X 2,..., X n ) ˆ2 (X1, X 2,..., X n )
第7章 参数估计
总体所服从的分布类型已知/未知
抽样
参数 估计
估计总体中未知的参数
参数估计 参数估计问题是利用从总体抽样得到的信息
来估计总体的某些参数. 估计新生儿的体重
估计废品率
估计湖中鱼数
§7.1
点估计
设有一个统计总体,总体的分布函数
为 F(x, ),其中 为未知参数 ( 可以是向量) .
现从该总体抽样,得到样本 X1,X2,…,Xn
例2: 已知某产品的不合格率为p, 有简单随 机样本X1 ,X2 ,…, Xn 求p的矩估计量。
解:E(X)=p.

1 n
n i 1
Xi
X
例3:设电话总机在某段时间内接到呼唤的次数 服从参数λ未知的泊松分布,现在收集了如下42 个数据:
接到呼唤次数 0 1 2 3 出现的频数 7 10 12 8
二、有效性
设 ˆ1 ˆ1(X1, , X n )和 ˆ2 ˆ2( X1, , Xn)
相关文档
最新文档