概率论与数理统计 第七章

合集下载

概率论与数理统计第七章-1矩估计法和极大似然估计法

概率论与数理统计第七章-1矩估计法和极大似然估计法

μ1 h1 (θ1 , θ2 , μ j h j (θ1 , θ2 , μk hk (θ1 , θ2 ,
, θk ) , θk ) , θk )
, μk ) , μk ) , μk )
数理统计
从这 k 个方程中解出
θ1 g1 ( μ1 , μ2 , θ j g j ( μ1 , μ2 , θk gk ( μ1 , μ2 ,
数理统计
定义 用样本原点矩估计相应的总体原点矩 ,
用样本原点矩的连续函数估计相应的总体原点矩的 连续函数, 这种参数点估计法称为矩估计法 . 矩估计法的具体做法如下 设总体的分布函数中含有k个未知参数 θ1 , θ2 , 那么它的前k阶矩 μ1 , μ2 ,
, θk ,
, μk , 一般
l xi P{ X xi ;1 , 2 , , k } l E ( X l ) l 1 hl (1 , 2 , , k ) x l p ( x; , , , )dx 1 2 k
2 1
b μ1 3( μ2 μ12 )
于是 a , b 的矩估计量为
总体矩
a A1 3( A2 A12 ) 3 n 2 X ( X X ) , i n i 1
3 n 2 b X ( X X ) n i 1 i
样本矩
数理统计
例2 设总体 X 的均值 μ和方差 σ 2 ( 0) 都存
数理统计
点估计问题的一般提法 设总体 X 的分布函数 F ( x; )的形式为已
知, 是待估参数 . X 1 , X 2 ,, X n 是 X 的一个样 本, x1 , x2 ,, xn 为相应的一个样本值 .

概率论与数理统计第7章

概率论与数理统计第7章

x 0 , x 0 ,x 1 ,x 2 ,
,x n 为 总 体 X
的 一 个 样 本 ,则 未 知 参 数 的 矩 估 计 ˆ _ _ _ _ _ _ _ _ _ _ _ .
这个例子所作的推断已经体现了极大似然法 的基本思想 .
最大似然估计原理:
设X1,X2,…Xn是取自总体X的一个样本,样 本的联合密度(连续型)或联合分布律 (离散型)为
f (x1,x2,… ,xn ; ) .
当给定样本X1,X2,…Xn时,定义似然函数为:
L() f (x1, x2 ,…, xn; )

pˆ1Βιβλιοθήκη nn i 1xix
即为 p 的最大似然估计值 .
从而 p 的最大似然估计量为
p ˆ(X1,
1n ,Xn)ni1Xi X
求最大似然估计(MLE)的一般步骤是:
(1) 由总体分布导出样本的联合分布率(或联 合密度);
(2) 把样本联合分布率 ( 或联合密度 ) 中自变
量看成已知常数,而把参数 看作自变量,得到似然 函数L();
要求:领会
2.2 估计量的有效性、相合性, 要求:领会
3.区间估计
3.1 置信区间的概念,
要求:领会
3.2 求单个正态总体均值和方差的置信区间,要求:简单应用
参数估计
现在我们来介绍一类重要的统计推断问题
参数估计问题是利用从总体抽样得到的信息来估计总体 的某些参数或者参数的某些函数.
估计新生儿的体重
1 p
n
pxi (1p)1xi
i1
n
n
xi
n xi
pi1 (1p) i1
n
n
xi
n xi
L(p)pi1 (1p) i1

概率论与数理统计复习7章

概率论与数理统计复习7章

( n − 1) S 2 ( n − 1) S 2 = 1 − α 即P 2 <σ2 < 2 χα 2 ( n − 1) χ1−α 2 ( n − 1) ( n − 1) S 2 ( n − 1) S 2 置信区间为: 2 , χα 2 ( n − 1) χ12−α 2 ( n − 1)
则有:E ( X v ) = µv (θ1 , θ 2 ,⋯ , θ k ) 其v阶样本矩是:Av = 1 ∑ X iv n i =1
n
估计的未知参数,假定总体X 的k阶原点矩E ( X k ) 存在,
µ θ , θ ,⋯ , θ = A k 1 1 1 2 µ2 θ1, θ 2 ,⋯ , θ k = A2 用样本矩作为总体矩的估计,即令: ⋮ µ θ , θ ,⋯ , θ = A k k k 1 2 ɵ ɵ ˆ 解此方程即得 (θ1 , θ 2 ,⋯ , θ k )的一个矩估计量 θ 1 , θ 2 ,⋯ , θ k
+∞
−∞
xf ( x ) dx = ∫ θ x θ dx =
1 0
令E ( X ) = X ⇒
θ +1
θ
ˆ = X ⇒θ =
( )
X 1− X
θ +1
2
θ
7.2极大似然估计法
极大似然估计法: 设总体X 的概率密度为f ( x,θ ) (或分布率p( x,θ )),θ = (θ1 ,θ 2 ,⋯ ,θ k ) 为 未知参数,θ ∈ Θ, Θ为参数空间,即θ的取值范围。设 ( x1 , x2 ,⋯ , xn ) 是 样本 ( X 1 , X 2 ,⋯ , X n )的一个观察值:
i =1 n

概率论与数理统计第7章参数估计PPT课件

概率论与数理统计第7章参数估计PPT课件
5
a1(1, ,k )=v1
1 f1(v1, ,vk )
假定方程组a2(1, ,k ) v2 ,则可求出2 f2(v1, ,vk )
ak (1, ,k ) vk
k fk (v1, ,vk )
则x1 xn为X的样本值时,可用样本值的j阶原点矩Aj估计vj,其中
Aj
1 n
n i1
xij ( j
L(x1, ,xn;ˆ)maxL(x1, ,xn;),则称ˆ(x1, ,xn)为
的一种参数估计方法 .
它首先是由德国数学家
高斯在1821年提出的 ,然而, 这个方法常归功于英国统
Gauss
计学家费歇(Fisher) . 费歇在1922年重新发现了
这一方法,并首先研究了这
种方法的一些性质 .
Fisher
10
极大似然估计是在已知总体分布形式的情形下的 点估计。
极大似然估计的基本思路:根据样本的具体情况
注:估计量为样本的函数,样本不同,估计量不 同。
常用估计量构造法:矩估计法、极大似然估计法。
4
7.1.1 矩估计法
矩估计法是通过参数与总体矩的关系,解出参数, 并用样本矩替代总体矩而得到的参数估计方法。 (由大数定理可知样本矩依概率收敛于总体矩, 且许多分布所含参数都是矩的函数)
下面我们考虑总体为连续型随机变量的情况:
n
它是的函数,记为L(x1, , xn; ) f (xi , ), i 1
并称其为似然函数,记为L( )。
注:似然函数的概念并不仅限于连续随机变量 ,
对于离散型随机变量,用 P {Xx}p(x,)
替代f ( x, )
即可。
14
设总体X的分布形式已知,且只含一个未知参数,

《概率论与数理统计》第七章假设检验.

《概率论与数理统计》第七章假设检验.

《概率论与数理统计》第七章假设检验.第七章假设检验学习⽬标知识⽬标:理解假设检验的基本概念⼩概率原理;掌握假设检验的⽅法和步骤。

能⼒⽬标:能够作正态总体均值、⽐例的假设检验和两个正态总体的均值、⽐例之差的假设检验。

参数估计和假设检验是统计推断的两种形式,它们都是利⽤样本对总体进⾏某种推断,然⽽推断的⾓度不同。

参数估计是通过样本统计量来推断总体未知参数的取值范围,以及作出结论的可靠程度,总体参数在估计前是未知的。

⽽在假设检验中,则是预先对总体参数的取值提出⼀个假设,然后利⽤样本数据检验这个假设是否成⽴,如果成⽴,我们就接受这个假设,如果不成⽴就拒绝原假设。

当然由于样本的随机性,这种推断只能具有⼀定的可靠性。

本章介绍假设检验的基本概念,以及假设检验的⼀般步骤,然后重点介绍常⽤的参数检验⽅法。

由于篇幅的限制,⾮参数假设检验在这⾥就不作介绍了。

第⼀节假设检验的⼀般问题关键词:参数假设;检验统计量;接受域与拒绝域;假设检验的两类错误⼀、假设检验的基本概念(⼀)原假设和备择假设为了对假设检验的基本概念有⼀个直观的认识,不妨先看下⾯的例⼦。

例7.1 某⼚⽣产⼀种⽇光灯管,其寿命X 服从正态分布)200 ,(2µN ,从过去的⽣产经验看,灯管的平均寿命为1550=µ⼩时,。

现在采⽤新⼯艺后,在所⽣产的新灯管中抽取25只,测其平均寿命为1650⼩时。

问采⽤新⼯艺后,灯管的寿命是否有显著提⾼?这是⼀个均值的检验问题。

灯管的寿命有没有显著变化呢?这有两种可能:⼀种是没有什么变化。

即新⼯艺对均值没有影响,采⽤新⼯艺后,X 仍然服从)200 ,1550(2N 。

另⼀种情况可能是,新⼯艺的确使均值发⽣了显著性变化。

这样,1650=X 和15500=µ之间的差异就只能认为是采⽤新⼯艺的关系。

究竟是哪种情况与实际情况相符合,这需要作检验。

假如给定显著性⽔平05.0=α。

在上⾯的例⼦中,我们可以把涉及到的两种情况⽤统计假设的形式表⽰出来。

概率论与数理统计-参数估计

概率论与数理统计-参数估计

第七章 参数估计
例:
引言
设总体 X 是服从参数为 的指数分布,其中参数
未 知 ,
0 .X1 ,,
X
是总体
n
X
的一个样本,
我们的任务是根据样本,来估计 的取值,从
而估计总体的分布.
这 是 一 个 参 数 估 计 问 题.
第七章 参数估计
§1 点估计 §2 估计量的评选标准 §3 区间估计
第七章 参数估计 §1 点估计
2

A1
A2
, (
2
1)
.
第七章 参数估计
例6(续)
解此方程组,得
§1 点估计
ˆ
A1 2 A2 A12
,
ˆ
A2
A1 A12
.
ˆ X 2 ,

B2
ˆ X .
B2
其中 B2
1 n
n i 1
Xi X
2 为样本的二阶中心矩.
第七章 参数估计(第二十二讲) 三、 极大似然法
§1 点估计
1
第七章 参数估计
例6(续)
EX 2 x 2 f
x dx x 2
x 1e x dx
0
§1 点估计
2 2 x ( e 2)1 x dx
2 0 2
2 2
1 2
1
2
因此有
EX
,
EX
2
1 .
⑵ 在不引起混淆的情况下,我们统称估计量
与估计值为未知参数 的估计.
第七章 参数估计
二、 矩估计法
§1 点估计
设X为连续型随机变量,其概率密度为
f ( x;1 ,, k ), X为离散型随机变量,其分布列为

《概率论与数理统计》7

《概率论与数理统计》7

未知参数 , ,, 的函数.分别令
12
k
L(1,,k ) 0,(i 1,2,...,k)
或令
i
ln L(1,,k ) 0,(i 1,2,...,k)
i
由此方程组可解得参数 i 的极大似然估计值 ˆi.
例5 设X~b(1,p), X1, X2 , …,Xn是来自X的一个样本,
求参数 p 的最大似然估计量.
解 E( X ) ,E( X 2 ) D( X ) [E( X )]2 2 2
由矩估计法,
【注】
X
1
n
n i 1
X
2 i
2
2
ˆ X ,
ˆ
2
1 n
n i 1
(Xi
X )2
对任何总体,总体均值与方差的矩估计量都不变.
➢常见分布的参数矩估计量
(1)若总体X~b(1, p), 则未知参数 p 的矩估计量为
7-1
第七章
参数估计
统计 推断
的 基本 问题
7-2
参数估 计问题
(第七章)
点估计 区间估 计
假设检 验问题 (第八章)
什么是参数估计?
参数是刻画总体某方面概率特性的数量.
当此数量未知时,从总体抽出一个样本, 用某种方法对这个未知参数进行估计就 是参数估计.
例如,X ~N ( , 2),
若, 2未知, 通过构造样本的函数, 给出
k = k(A1, A2 , …, A k)
用i 作为i的估计量------矩估计量.
例1 设总体X服从[a,b]上的均匀分布,a,b未知,
X1, X2 , …,Xn为来自总体X的样本,试求a,b的 矩估计量.
解 E(X ) a b , D(X ) (b a)2

《概率论与数理统计》第七章

《概率论与数理统计》第七章
i 1
n
n
ln xi
(4)的极大似然估计量为:ˆ
n
n2 i1
lnX
i
2
i1
第七章 参数估计 ‹#›
例 9 设X~b(1,p), X1,X2,…,Xn是来自X的一个样本, 试求参数p的最大似然估计量
解: 设x1, x2,, xn,是相应于样本X1,X2,…,Xn 的一个样本值,X
的分布律为:
(3)以样本各阶矩A1, ,Ak代替总体各阶矩1,
得各参数的矩估计
ˆi gi(A1, ,Ak ), i 1, , k
, k,
第七章 参数估计 ‹#›
注意:
在实际应用时,为求解方便,也可以用
中心矩 i 代替原点矩i,相应地以样本中心矩Bi 估计 i.
(二)最大似然估计法
最(极)大似然估计的原理介绍
第七章
参数估计
目录/Contents
第1章 随机事件与 2 概率
§ 1 点估计
§3
估计量的评选标准
第七章 参数估计 ‹#›
问题的提出:
在实际进行统计时,有不少总体的(我们关心的某 确定指标)概率分布是已知的。比如
例 1 产品寿命服从的分布
X~
f
(
x)
1
x
e
x0
0
其他
但其中有参数是未知的: θ
n
似然函数 L f xi , 。 i 1
, xn ,
极大似然原理:L(ˆ( x1 ,
,
xn
))
max
L(
).
计算简化方法:
在求L 的最大值时,通常转换为求:lnL 的最大值,
lnL 称为对数似然函数.
利用
  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
a) 分布可加性 若X~2(n1),Y~2(n2 ),
X 与 Y 独立,则 X + Y~2(n1+n2 ).
b) 期望与方差 若 X~2(n),则
E(X) = n, Var(X) = 2n
26 October 2018
华东师范大学
第七章 样本分布
第13页
二、t — 分布
1. 构造 若 X ~N(0, 1), Y~2(n), X 与 Y 独立,则
E 2 n, Var ( ) 2n
2
26 October 2018
华东师范大学
第七章 样本分布
第11页
3. 分位点 设X ~ 2(n),若 对于:0<<1,存在 满足 则称 为 分布的下侧 分位点。
26 October 2018
华东师范大学
第七章 样本分布
第12页
4. 2 分布的性质:
则称 F(n1, n2)为
F(n1, n2)的下侧 分位点
26 October 2018
华东师范大学
第七章 样本分布
第21页
3. F — 分布性质:
26 October 2018
华东师范大学
第七章 样本分布
第22页
一般总体的结论
设 X 为总体, 且 E(X) = , Var(X) = 2,
则 为样本,
26 October 2018
华东师范大学
第七章 样本分布
第23页
正态总体的结论
为样本, (1) (2) (3) (4)
26 October 2018
设总体 则
独立.
华东师范大学
t1 (n)
26 October 2018
华东师范大学
第七章 样本分布
第17页
注:
26 October 2018
华东师范大学
第七章 样本分布
第18页
三、F — 分布 1. 构造 若X ~ 2(n1), Y ~ 2(n2),X与Y独立,则
称为自由度为 n1, n2的F — 分布, 其概率密度为
26 October 2018
华东师范大学
第七章 样本分布
第4页
统计量
当人们需要从样本获得对总体各种参数的认识 时,最好的方法是构造样本的函数,不同的函 数反映总体的不同特征。
统计量 设x1,x2,…,xn 为取自某总体的样本, 若样本函数T = T(x1, x2, …, xn)中不含有任何 未知参数。则称T为统计量。统计量的分布 称为抽样分布。
26 October 2018
华东师范大学
第七章 样本分布
第6页
几个常用的统计量:
26 October 2018
华东师范大学
第七章 样本分布
第7页
课 堂 练 习 (1)
设X1, X2, …, Xn 是来自总体 N(, 2)的一个样本,
其中 已知,2 未知, 以下哪些是统计量
1 n (1) Xi n i 1
26 October 2018
华东师范大学
第七章 样本布
第3页
2 样本: 来自总体的部分个体 X1, … ,Xn 如果满足:
(1) 同分布性: Xi,i=1,…,n 与总体同分布.
(2) 独立性: X1,… ,Xn 相互独立; X1,… ,Xn: 容量为 n 的简单随机样本,简称样本。
而称 X1, …, Xn 的一次实现 x1, … , xn 为样本观察值。
26 October 2018
华东师范大学
第七章 样本分布
第5页
按照这一定义,若 x1,x2,…,xn为样本 则 x , x 都是统计量。 而当, 2 未知时,x1- , x1/ 等均不是统计量。
n n 2 i i i 1 i 1
尽管统计量不依赖于未知参数,但是它的分 布一般是依赖于未知参数的。
第七章 样本分布
第1页
§7.1 总体与样本
1. 总体:研究对象的全体。 通常指研究对象的某项数量指标。 组成总体的元素称为个体。
从本质上讲,总体就是所研究的随机 变量或随机变量的分布。
26 October 2018
华东师范大学
第七章 样本分布
第2页
总体 (母体): i) 研究对象的全体。
ii) 总体是一个随机变量。 个体: 每一个研究对象。
华东师范大学
第七章 样本分布
第8页
数理统计中常用到如下三个分布:
2 — 分布、 t — 分布、 F — 分布 一、2 — 分布
26 October 2018
华东师范大学
第七章 样本分布
第9页
2. 2—分布的密度函数曲线
26 October 2018
华东师范大学
第七章 样本分布
第10页
该密度函 数的图象 是一取非 负值的偏 态分布
26 October 2018
华东师范大学
第七章 样本分布
第16页
3. t(n) 的性质: (1) p(t) 关于 t=0 (纵轴) 对称。 (2) p(t) 的极限为 N(0,1) 的密度函数.
4. 分位点 设T~t(n),若对0<<1, 存在 t(n)>0, 满足 P{Tt(n)} = 则称 t(n)为 t(n) 的下侧 分位点.
n
1 n 2 (2) ( X ) i n i 1
2
1 n 2 (3) ( X X ) i n i 1
2
1 Xi (4) n i 1
(5) X 1 X 2
2
2
(6) 2 X 1 X 2 ...X n
26 October 2018
26 October 2018
华东师范大学
第七章 样本分布
第19页
该密度函 数的图象 也是一取 非负值的 偏态分布
26 October 2018
华东师范大学
第七章 样本分布
第20页
2. F — 分布的分位点
对于 0<<1,若存在 F(n1, n2)>0 满足 P{FF(n1, n2)} = ,
t(n) 称为自由度为 n 的 t — 分布。
26 October 2018
华东师范大学
第七章 样本分布
第14页
2. t(n) 的概率密度为:
26 October 2018
华东师范大学
第七章 样本分布
第15页
t分布的密度函 数的图象是一关 于纵轴对称的分 布,与标准正态 分布的密度函数 形状类似,只是 峰比标准正态分 布低一些尾部的 概率比标准正态 分布的大一些。
相关文档
最新文档