第二章统计量、参数估计与区间估计
统计学中的参数估计方法
统计学中的参数估计方法统计学中的参数估计方法是研究样本统计量与总体参数之间关系的重要工具。
通过参数估计方法，可以根据样本数据推断总体参数的取值范围，并对统计推断的可靠性进行评估。
本文将介绍几种常用的参数估计方法及其应用。
一、点估计方法点估计方法是指通过样本数据来估计总体参数的具体取值。
最常用的点估计方法是最大似然估计和矩估计。
1. 最大似然估计（Maximum Likelihood Estimation）最大似然估计是指在给定样本的条件下，寻找最大化样本观察值发生的可能性的参数值。
它假设样本是独立同分布的，并假设总体参数的取值满足某种分布。
最大似然估计可以通过求解似然函数的最大值来得到参数的估计值。
2. 矩估计（Method of Moments）矩估计是指利用样本矩与总体矩的对应关系来估计总体参数。
矩估计方法假设总体参数可以通过样本矩的函数来表示，并通过求解总体矩与样本矩的关系式来得到参数的估计值。
二、区间估计方法区间估计是指根据样本数据来估计总体参数的取值范围。
常见的区间估计方法有置信区间估计和预测区间估计。
1. 置信区间估计（Confidence Interval Estimation）置信区间估计是指通过样本数据估计总体参数，并给出一个区间，该区间包含总体参数的真值的概率为预先设定的置信水平。
置信区间估计通常使用标准正态分布、t分布、卡方分布等作为抽样分布进行计算。
2. 预测区间估计（Prediction Interval Estimation）预测区间估计是指根据样本数据估计出的总体参数，并给出一个区间，该区间包含未来单个观测值的概率为预先设定的置信水平。
预测区间估计在预测和判断未来观测值时具有重要的应用价值。
三、贝叶斯估计方法贝叶斯估计方法是一种基于贝叶斯定理的统计推断方法。
贝叶斯估计将先验知识与样本数据相结合，通过计算后验概率分布来估计总体参数的取值。
贝叶斯估计方法的关键是设定先验分布和寻找后验分布。
区间估计ppt课件
极端值处理问题
剔除极端值
在数据分析前，对极端值进行识别和处理，如采用箱线图、Zscore等方法剔除异常值。
转换数据
对数据进行适当的转换，如对数转换、平方根转换等，使极端值的 影响减小。
使用稳健统计量
采用对极端值不敏感的稳健统计量进行区间估计，如中位数、截尾 均值等。
多重比较问题
控制比较次数
在实验设计和数据分析阶段，合理控制比较次数，避免不必要的 多重比较。
02
抽样分布与中心极限定理
抽样分布概念及类型
抽样分布概念
从总体中随机抽取一定数量的样本，统计量的分布称为抽样分布。
常见抽样分布类型
正态分布、t分布、F分布、卡方分布等。
中心极限定理内容及应用
中心极限定理内容
当样本量足够大时，无论总体分布如何，样本均值的分布将近似于正态分布。
中心极限定理应用
在统计学中，中心极限定理是推断统计的理论基础，常用于区间估计、假设检验 等。
构造方法
根据样本均值、标准差和样本量，结 合正态分布或t分布的性质，可以构造 出总体均值的置信区间。
比例p置信区间构建方法
二项分布与比例估计
01
当总体服从二项分布时，样本比例是总体比例的一个良好估计
量。
置信区间的构造
02
利用样本比例、样本量和二项分布的性质，可以构造出总体比
例的置信区间。
注意事项
03
配对样本t检验原理及应用
原理
配对样本t检验是通过比较同一组样本在不同条件下的均值差异来检验两个总体均值是否存在显著差 异的方法。其原假设为两个总体均值相等，备择假设为两个总体均值不等或大于/小于另一个总体均 值。
应用
配对样本t检验适用于前后测量、两种处理方法等配对设计的数据分析。例如，在医学领域，可以通过 配对样本t检验来比较同一种药物在不同剂量下的疗效差异；在教育领域，可以通过配对样本t检验来 比较同一种教学方法在不同班级中的教学效果差异。
参数估计之点估计和区间估计
作者 | CDA数据分析师参数估计（parameter estimation）是根据从总体中抽取的样本估计总体分布中包含的未知参数的方法。
人们常常需要根据手中的数据，分析或推断数据反映的本质规律。
即根据样本数据如何选择统计量去推断总体的分布或数字特征等。
统计推断是数理统计研究的核心问题。
所谓统计推断是指根据样本对总体分布或分布的数字特征等作出合理的推断。
它是统计推断的一种基本形式，分为点估计和区间估计两部分。
一、点估计点估计是依据样本估计总体分布中所含的未知参数或未知参数的函数。
简单的来说，指直接以样本指标来估计总体指标，也叫定值估计。
通常它们是总体的某个特征值，如数学期望、方差和相关系数等。
点估计问题就是要构造一个只依赖于样本的量，作为未知参数或未知参数的函数的估计值。
构造点估计常用的方法是：①矩估计法，用样本矩估计总体矩②最大似然估计法。
利用样本分布密度构造似然函数来求出参数的最大似然估计。
③最小二乘法。
主要用于线性统计模型中的参数估计问题。
④贝叶斯估计法。
可以用来估计未知参数的估计量很多，于是产生了怎样选择一个优良估计量的问题。
首先必须对优良性定出准则，这种准则是不唯一的，可以根据实际问题和理论研究的方便进行选择。
优良性准则有两大类：一类是小样本准则，即在样本大小固定时的优良性准则；另一类是大样本准则，即在样本大小趋于无穷时的优良性准则。
最重要的小样本优良性准则是无偏性及与此相关的一致最小方差无偏估计，其次有容许性准则，最小化最大准则，最优同变准则等。
大样本优良性准则有相合性、最优渐近正态估计和渐近有效估计等。
下面介绍一下最常用的矩估计法和最大似然估计法。
1、矩估计法矩估计法也称“矩法估计”，就是利用样本矩来估计总体中相应的参数。
它是由英国统计学家皮尔逊Pearson于1894年提出的，也是最古老的一种估计法之一。
对于随机变量来说，矩是其最广泛，最常用的数字特征，主要有中心矩和原点矩。
由辛钦大数定律知，简单随机样本的原点矩依概率收敛到相应的总体原点矩，这就启发我们想到用样本矩替换总体矩，进而找出未知参数的估计，基于这种思想求估计量的方法称为矩法。
第二章参数估计
第二章 参数估计【学习目标】1、掌握矩估计的替代原则；会求已知分布中未知参数的矩估计（值）2、熟练掌握极大似然估计的思想及求法3、估计量的评价标准：无偏性、有效性、相合性的定义4、统计量的无偏性的判断；两个无偏估计的有效性判断；会用Fisher 信息量及c-R 下界进行统计量的UMVUE 充分性判断5、掌握区间估计的定义6、单个正态总体均值的区间估计（包括方差已知、方差未知）；单个正态总体方差的区间估计（包括均值已知、均值未知）7、两个正态总体均值差的区间估计（方差未知）；两个正态总体方差比的区间估计 8、单侧置信区间的求法 【典型例题讲解】例1、设1,,n X X 是来自均匀分布(,1)U θθ+的总体的容量为n 的样本，其中θ-∞<<+∞为未知参数，试证：θ的极大似然估计量不止一个，例如1(1)ˆXθ=，2()ˆ1n X θ=-，3(1)()11ˆ()22n XXθ=+-都是θ的极大似然估计。
解：(,1)U θθ+分布的密度函数为11()0x f x θθ≤≤+⎧=⎨⎩其他似然函数(1)()11()0n x x L θθθ≤≤≤+⎧=⎨⎩其他由于在(1)()1n x x θθ≤≤≤+上()L θ为常数，所以凡是满足：(1)()ˆˆ1n x x θθ≤≤≤+的ˆθ均为θ的极大似然估计。
从而（1）1(1)ˆX θ=满足此条件，故1(1)ˆX θ=是θ的极大似然估计；（2）由于()(1)1n X X -≤，故2()(1)()2ˆˆ11n n X X X θθ=-≤≤=+，所以2()ˆ1n Xθ=-为θ的极大似然估计；（3）由于()(1)1n X X -≤，故(1)()(1)12n X X X +-≤，(1)()()12n n X X X ++≥，从而有3(1)()(1)()(1)()31111ˆˆ()()12222n n n XXXXXXθθ=+-≤≤≤++=+，故3ˆθ也为θ的极大似然估计。
应用数理统计第二章
□
例2.1.11 总体 X ~ U (θ,θ +1) ， θ 是未知参数， X1，…，Xn 是一组样本，求θ 的极大似然估计。 解. 总体的密度函数为： f(x,θ ) = 1， θ ＜ x1，…，xn ＜ θ +1 显然不能对参数 θ 求导，无法建立似然方程 注意到这个似然函数不是 0 就是 1 ，利用 顺序统计量，把似然函数改写成如下形式：
f(x,θ ) = 1， θ ＜ x(1) ＜… ＜ x(n) ＜ θ +1 因此只要 θ ＜ x(1) 并且 x(n) ＜ θ +1 同时满足， 似然函数就可以达到极大值 1 。 所以 U (θ,θ +1) 中参数θ 的极大似然估计 可以是区间 ( x(n) - 1 ，x(1) ) 里的任意一个点 。 说明 MLE 可以不唯一，甚至有无穷多个 同理，总体 U (a，b) 左右端点 a 、b 的MLE 分别就是两个极值统计量 x(1) 、x(n) 。
k =1
n
注意这里总体参数 θ 是一个向量 (µ,σ2 ) ， 因此对于似然函数取对数后分别对 µ,σ2 求导， 建立对数似然方程组：
1
σ
−
2
(x − µ) = 0 n + 1 2(σ 2 )2 ( xk − µ )2 = 0 ∑
k =1 n
2σ 2
解方程组得到正态总体两个参数的MLE
ˆ µ=X
1 n n−1 2 ˆ σ 2 = ∑ ( X k − X )2 = S n k =1 n
⎛ N ⎞ ∑ xk nN − ∑ xk L ( x ,θ ) = [ ∏ ⎜ ⎟ ] p (1 − p ) ⎝ xk ⎠
这里每一个 xk = 0、1、…、N 中的某个值
第二章 参数估计
0
x 2de
x
2xe
x
dx
2
xde
x
0
x
0
0
2 e dx 2 2
0
9
例4：设X1， … ， Xn为取自 N ( , 2 ) 总体的
样本，求参数 , 2 的矩估计。
: E( X ) D( X ) 2 E( X 2 ) [E( X )]2
极大似然法是由德国数学家G.F.Gauss在1821年提 出的.然而这个方法通常归于英国统计学家 R.A.Fisher,因为他在1912年里发现了这一方法,并 且首先研究了这种方法的性质.
设总体的密度函数为f(x,θ), θ为待估参数,θ∈Θ,Θ
为参数空间.当给定样本观察值 x (x1, x2 , xn )后,f(x,
以随便给的,所以根据统计思想建立各种点估计方法
和评价点估计的好坏标准便是估计问题的研究中心.
这里先介绍三个常用的标准:无偏性、有效性和一致
性.
1
有效性
^
^
设 i i ( X1,, X n ), i 1, 2分别是参数 的两个无偏估计,
^
^
^
^
若D 1 D 2 至少有一个n使 成立 , 则称 1比 2 有效.
总体k阶矩 样本k阶矩
k E(Xk )
Ak
1 n
n i 1
X
k i
的矩估计量是
约定：若
是未知参数的矩估计，则u()的矩
估计为u(
),
6
例2、：设X1， … ， Xn为取自参数为的指数分布 总体的样本，求的矩估计。
参数估计2
n
e n
i
x !
i 1 n i 1
ii ) ln L( x1 , x 2 ,..., x n ; ) xi ln n ln xi !
i 1
xi ln L( x1 , x2 ,...,xn ; ) i 1 n 0 iii)令 : 1 n iv)解之得 : xi x为 的极大似然估计值 , n i 1 1 n X i X 为 的极大似然估计量 . n i 1
(1)正态分布N (u, 2 ) (2)指数分布Z ( ) (3)均匀分布U (a, b) (4)二项分布B(n, p) (3)泊松分布 ( ) 试求其中未知参数的矩 估计. 解 : (1)
因为X ~ N ( , 2 ), E ( X ) , D( X ) 2 故有 X ,
注2
若 为 的矩估计量, g ( )为 的连续函数, 亦称g ( )为g ( )
2 2 例如S n 为总体方差D( X )的矩估计量, 则S n S n 为标准差 D( X )
的矩估计量. 的矩估计量.
例1.1
设X 1 , X 2 ,..., X n为来自正态总体 X 的样本, X的分布为
i 1 n n
( X为连续型)
(1.4) (1.5)
或
L( x1 , x2 ,..., xn ) PX i xi ;
i 1
( X为离散型)
达到最大值
L( x1 , x2 ,..., xn ; ) max L( x1 , x2 ,..., xn ; )
(1) 利用求导法求极大然估 计步骤 i )建立似然函数: L( x1 , x 2 ,..., x n ; 1 , 2 ,..., r ) f ( xi ; 1 , 2 ,..., r )
第二章 参数估计2-3 区间估计
I=0.814
上页 下页 返回
钢厂铁水含碳量X 例3. 钢厂铁水含碳量 ~ N(µ,0.1082), 现在随机测定 该厂9炉铁水得 炉铁水得X=4.484,求在置信度为 求在置信度为0.95 的条件 该厂 炉铁水得 求在置信度为 下铁水平均含碳量的置信区间。 下铁水平均含碳量的置信区间。 解
置信区间为
上页
下页
返回
联合方差
上页
下页
返回
1、 µ1 - µ2的1-α置信区间 、 α (1)、 σ12 、σ22已知 、
由于 X −Y ~ N(µ1 − µ2 ,
选取
2 2 σ1 σ2
n1
+
n2
)
因此置信度为1-α 因此置信度为 α的µ1 - µ2置信区间可为
上页
下页
返回
(2)、σ12 、σ22未知，且n1,n2较大 如大于 、 未知， 较大(如大于 如大于50)
=27.5， ，
=6.26， ，
上页
下页
返回
测量一批铅锭的比重，设铅锭的比重X 例6. 测量一批铅锭的比重，设铅锭的比重 ~ N(µ, 现进行16次检测得铅锭的比重有 σ2),现进行 次检测得铅锭的比重有 现进行 次检测得铅锭的比重有X=2.705， ， S2=0.0292，试求总体 的均值µ和方差 σ2置信度为 求总体X的均值 0.95 的置信区间。 的置信区间。 解 (1)求µ的置信区间 σ2未知 n=16,α=0.05. 求 的置信区间, 未知, α 选取 查表得 置信区间为
(二)、总体X数学期望 (二)、总体X数学期望µ未知 数学期望µ 样本X 的无偏估计. 样本 1,X2, • • • , Xn, 且S2是σ2的无偏估计
选取样本函数
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
2
则
x x a
S ( xi x) ( xi a) ( x a) ( xi x) S
2 2
1 2 S xi ( xi ) S n
2
各样本值同乘以一个数 b ，其差方和增大 b 2倍 令
xi bxi
x
（指各测量值的方差都相等的等精度
1 1 1 ＜x＞ ＜ xi＞ ＜ xi ＞ μ ＝μ n n n
（1） 平均值 x 是总体均值μ的无偏估计量，这是 因为参数μ的估计量的期望值等于被估参数，即 ＜x＞ μ 无偏估计量是说由测定值计算的估计值 x 离被估 参数μ很近，由不同样本得到的估计值 在被估参数 μ附近波动。
x 的平均值将在 x 的期望
2. 表示符号 ： ＜ ＞，对于方差σ2（ ）表示
3. 运算规则
（1） a 为常数，＜ a ＞＝ a ；
（2） 若 x i 是随机变量的随机样本值 ＜ x i ＞＝＜ x＞ ＝μ＝总体均值＝ （ 3） （ 4）
1 xi n
＜ ax ＞＝＜ a ＞＜ x ＞＝ a ＜ x ＞＝ aμ
9. 10.
( xi a) xi na
(x
i
x) x i n x 0
（ 即一组随机样本值对于样本平均值的偏差的加
和等于零。 xi n 1 xi n x ）
n
二、期望值及其运算
1.定义 对于一个测量值来说，其期望值就是总体的平 均值（在无系统误差时）。 期望值就是理想值-真值。即我们并不期望在一次给 定的试验中， x 会取它的期望值，然而在大量的试验 中，我们可合理地预料， 值的附近。
x
i 1
nm i m i
n
i
x1 x2 xn
n n 1
x x x
n
... xn m
2 xi i 1
2 2 , 或 x1 x2 ... xn 2
2 xi i 1
n
2 xi
i 1
n
( xi) 2 ( x1 x2 ... xn) 2
已知随机变量分布函数为正态分布，而表 示其分布特性的参数有μ、σ2，为总体的参数。
确定了μ、σ2，就可以预测和估计任何测量值
落在某一区间的概率，了解总体分布的基本 特征。
参数的点估计
实际分析测试中，对样本进行的是有限次的 测定，只能得到样本的平均值 x 和样本方差s2， 那么，能否用样本平均值 x 和样本方差s2来分别 估计总体均值μ和总体方差σ2，如果理论上证明 是可行的，就可将求总体均值μ和总体方差σ2简 化为求样本的平均值 和样本方差 s2。 x
选定一个概率（置信概率），并在真值
统计量的两边，各定出一个界限（置信限）， 由此画出的区间——置信区间，然后才能断 然说，这个区间包含真值在内的概率是多少， 这叫做区间估计 而被推断出物理量真值的某个统计量叫 做参数的点估计。例如，样本平均值 作为 x 总体均值μ的估计值，记做 。
接求出方差和S、s2、s 。
第二节
一 、统计量
统计量
1.定义 将样本值经过加工运算得到的 样本函数值，称为统计量。 它可以把关于总体的有用信息更明确更集 中地反映出来, 如 x 、R、s2、s、S 等，这些 数值都是由随机变量的随机样本值 x i 得到 的。所以，统计量也是随机变量。 2. 作用 利用统计量可以对被测物理量的 数值作出统计意义的推断
5.
x y x1 y1 x2 y2 ... xn yn
i i
6.
7. 8.
a xi a xi
a na
（a为常数）
1 x n x（ x n xi 当样本一定，
1 1 ( n xi) n n xi xi
x 为常数）
即
x n x xi
2
x b x
2 2
S ( xi x) (bx i b x) b
(x
i
x) b S
2
2
∴
S S 2 b
例2－1 用K2Cr2O7法测定某赤铁矿中铁的含量，数 据如下：
66.64， 66.56， 66.65， 66.62， 66.63
计算方法的精密度。
σ
2
2 ( x y) ＜［( x y) ＜x y＞］ ＞ ＜（x y ＜x＞ ＜y＞) 2＞
2 ＜［（x ＜x＞) ( y ＜y＞)］ ＞ ＜（x ＜x＞) 2 ( y ＜y＞) 2
2( x ＜x＞)( y ＜y＞)＞ ＜（x ＜x＞) 2＞ ＜（y ＜y＞) 2＞ 2＜（x ＜)＞＜( y ＜y＞)
∵
＜( x ＜x＞)＞ 0
2 2 2 2 ＜ ( x ＜ x ＞ ) ＞ ＜（ a ＜ x ＞ ) ＞ （ x ) ( a ＜ x ＞ ) σ ∴ 上式
2 2 2 ＜ x ＞ ( x ) ＜ x ＞ ∴ 若 a0 则
＜x ＞ ( x) ＜x＞
x
（2） x 是出现概率最大的值p23 在正态总体中，随机抽出容量为 n 的样本，独立 进行测定，得到 n 个测定值 x1 , x 2 , xn 测定值 x i出 现的概率 Fi 是指随机变量出现在 xi △x
区间的概率（即具有各种大小偏差的样本值出现的概
率）。
F
i
1 σ 2 π
e
a 2 1 i ( ） 2 σ
2 2
2
2 i
整理得：
∵ ∴
2 （ x ) ＜ ＞ ＜ x ＞ x σ
2
2
x
n
(
x )
n
i 2
S ( xi μ ）
2
σ
2
2
S ( x) n
2 ( μ ） xi
n
nσ（x ) ( xi μ ) S
2
又∵ 由上式得：
nσ （x)
2
2
xi2
2
1 ( xi) 2 n
∴
Sn σ（x) xi
1 ( xi ) 2 n
由上可见。S是由平均值计算出来的。但 通常并不是有限小数，绝大多数都按数字修约 规则获得的近似值，于是各偏差也都是近似值， 其平方再加和，会把舍入误差累积起来，使 S、 s2、s受影响。为了消除上述弊病，同时为了计 算机编程方便起见，可由样本值按上式直
（7）若 x 和
y 是两个互相独立的随机变量 ,如:
＜x y＞ ＜x＞ ＜y＞ ＜xy＞ ＜x＞＜y＞
即对于相互独立的随机变量，各变量之和（或差）
的期望值，都等于各变量的期望值之和(或差)。
（8） σ 2 ( xi) σ 2( xi) σ 2 ( x) nσ 2 ( x)
（2）先计算平均值 x ，再由 S。
S ( xi x) 2 ，求
习题
某标准水样中氯化物含量为110 mg/L，银含量法测
定5次的结果分别为112，115，114，113，115 mg/L。
（1）计算平均值的绝对误差和相对误差 ；
（2）计算样本的差方和、方差、标准偏差和相对标 准偏差。
第三节
2 ［（ a ) ( 2 1
x
2 a ) ( 2
x
2 a ) ］ n
而在一组测量中，最佳值或最可信赖值乃是当总 概率 P 最大时所求出的那个值。 由指数关系可知， 当 F 最大时，则
( x1 a) ( x2 a) ＋（xn a) ( xi a)
＜( x a) 2 ＞ ＜（x ＜x＞ ＜x＞ a) 2 ＞
2 ＜［ ( x ＜x＞ (a ＜x＞) ］ ＞
＜( x ＜x＞) 2 (a ＜x＞) 2 2( x ＜x＞)(a ＜x＞)＞ ＝＜( x ＜x＞) 2 ＞ ＜(a ＜x＞) 2 ＞ 2＜( x ＜x＞)＞＜(a ＜x＞)＞
x
假设最佳值为 a ，则 xi a 为各次测量值所
对应的误差 ( x1 a), ( x2 a),( xn a), 由于
各次测量值独立进行 ，所以在
总概率 F 为：
n
x
次测定中，
F F ( x1) F ( x2) F ( xn) ( 12 )
n
e
1 2
一、参数的点估计
参数的点估计
点估计：用样本的统计量作为总体参数的估计值， 叫做总体参数的点估计。 表示测定值集中趋势的参数: 均值、中位值等，
^
～ ^
x μ
表示测定值离散特性: 算术平均偏差、极差、方 差和标准差。 2 2
x μ
s
s
二、参数μ的点估计值
1 .算术平均值 的测量）
所以，参数估计是根据样本数据估计总体参
数的值，如估计总体均值、总体方差，称为
参数的点估计。估计值不正好等于待估参数，
而只是其近似值。
参数的区间估计
它包括参数存在的区间，同时也给出此区
间包含待估参数真值的概率，常以置信区间的
形式给出 。
第一节 加和号和期望值的运算
一、加和号的运算 1. 2. 3. 4.
S s 解：RSD 100%＝ n 1 100% x x
xi
66.64 4
xi
xi
2
16
66.56
66.65 66.62 66.63
-4
5 2 3 10
16
25 4 9 70
编码公式: xi ( xi 66.60) 100