数理统计的基本知识数理统计的内容主要包括以下两个方面一

第六章数理统计的基本知识数理统计的内容主要包括以下两个方面：一、如何收集、整理数据资料；二、如何对所得的数据资料进行分析、研究，从而对所研究的对象的性质、特点作出推断．后者就是我们所说的统计推断问题．本书只讲述统计推断的基本内容，即数理统计的基本知识、参数估计、假设检验、方差分析及回归分析等．在概率论中，我们是在假设随机变量的分布已知的前提下去研究它的性质、特点和规律性，例如介绍常用的各种分布、讨论其随机变量的函数的分布、求出其随机变量的数字特征等．在数理统计中，我们研究的随机变量，其分布是未知的，或者是不完全知道的，人们是通过对所研究的随机变量进行重复独立的观察，得到许多观察值，对这些数据进行分析，从而对所研究的随机变量的分布作出种种推断的．本章我们将介绍总体、随机样本及统计量等基本概念，并着重介绍几个常用统计量及抽样分布．§6.1 随机样本一、总体与总体分布1.总体:将研究对象的某项数量指标的值的全体称为总体．总体中的每个元素称为个体．总体中所包含的个体的个数称为总体的容量．容量为有限的称为有限总体．否则称为无限总体．注:有些有限总体，它的容量很大，我们可以认为它是一个无限总体．例如考察全国正在使用的某种型号灯泡的寿命所形成的总体，由于个体的个数很多，就可以认为是无限总体．在总体中，由于每个个体的出现是随机的，所以研究对象的该项数量指标X的取值就具有随机性，X是一个随机变量．因此，我们所研究的总体，即研究对象的某项数量指标X，它的取值在客观上有一定的分布．我们对总体的研究，就是对相应的随机变量X的分布的研究．X的分布函数和数字特征就称为总体的分布函数和数字特征，今后将不区分总体与相应的随机变量，笼统称为总体X．二、样本与样本分布在实际中，总体的分布一般是未知的，或只知道它具有某种形式，其中包含着未知参数．在数理统计中，人们都是通过从总体中抽取一部分个体，然后根据获得的数据来对总体分布得出推断的，被抽出的部分个体叫做总体的一个样本．从总体抽取一个个体，可以看作是对代表总体的随机变量X 进行一次试验（或观测），得到X 的一个试验数据（或观测值）．从总体中抽取一部分个体，就看作是对随机变量X 进行若干次试验（或观测），得到X 的一些试验数据（或观测值）．从总体中抽取若干个个体的过程称为抽样．抽样结果得到X 的一组试验数据（或观测值）称为样本．样本中所含个体的数量称为样本容量．为了使样本能很好地反映总体的情况，从总体中抽取样本，必须满足下述两个条件： 1.代表性因抽取样本要反映总体，自然要求每个个体和总体具有相同分布． 2.独立性各次抽取必须是相互独立的，即每次抽样的结果既不影响其他各次抽样的 结果，也不受其他各次抽样结果的影响．这种随机的、独立的抽样方法称为简单随机抽样．由此得到的样本称为简单随机样本．从总体中进行放回抽样，显然是简单随机抽样，得到的是简单随机样本．从 有限总体中进行不放回抽样，显然不是简单随机抽样，但是当总体容量Ｎ很大而样本容量n 较小0.1n N ⎛⎫≤ ⎪⎝⎭时，也可以近似地看作是放回抽样，即可以近似地看作是简单随机抽样，得到的样本可以近似地看作是简单随机样本． 注:从总体抽取容量为n 的样本，就是对代表总体的随机变量Ｘ在相同条件下随机地、独立地进行n 次试验（或观测），将n 次试验结果按试验的次序记为n X X X ,,,21 ．由于n X X X ,,,21 是对随机变量X 试验的结果，且各次试验是在相同条件下独立地进行的，所以可认为n X X X ,,,21 是相互独立的，且与总体X 服从相同的分布．定义1:设总体X 是具有某一分布函数的随机变量，如果随机变量n X X X ,,,21 相互独立，且都与X 具有相同的分布，则称n X X X ,,,21 为来自总体X 的简单随机样本，简称样本．n 称为样本容量．在对总体X 进行一次具体的抽样并做观测之后，得到样本n X X X ,,,21 的确切数值12,,,n x x x ，称为样本观察值（或观测值），简称为样本值．如果总体X 的分布函数为()F X ，则样本n X X X ,,,21 的联合分布函数为*12121(,,,)()()()()nn n i i F x x x F x F x F x F x ===∏如果总体X 是离散型随机变量，且概率分布为{},1,2,i P X x i ==则样本n X X X ,,,21 的联合概率分布为12121{,,,}{}{}{}{}nn n i i i P X x X x X x P X x P X x P X x P X x ∙==========∏如果总体X 是连续型随机变量，且具有概率密度)(x f ，则样本n X X X ,,,21 的联合概率密度为12121(,,,)()()()()nn n i i f x x x f x f x f x f x ∙===∏三、统计推断问题简述总体和样本是数理统计中的两个基本概念. 样本来自总体，自然带有总体的信息，从而可以从这些信息出发去研究总体的某些特征（分布或分布中的参数）. 另一方面，由样本研究总体可以省时省力（特别是针对破坏性的抽样试验而言）. 我们称通过总体X 的一个样本n X X X ,,,21 对总体X 的分布进行推断的问题为统计推断问题.总体、样本、样本值的关系:总体↙ ↖推断（个体）样本 → 样本值抽样在实际应用中, 总体的分布一般是未知的, 或虽然知道总体分布所属的类型, 但其中包含着未知参数. 统计推断就是利用样本值对总体的分布类型、未知参数进行估计和推断.为对总体进行统计推断, 还需借助样本构造一些合适的统计量, 即样本的函数, 下面将对相关统计量进行深入的讨论.例1：设总体X 服从正态分布),(2σμN ,概率密度为22()2(), x f x x R μσ--=∈则其样本n X X X ,,,21 的联合概率密度为22211()()2212/211(,,,).(2)ni i x nx n n ni f x x x e μμσσπσ=----*=∑==§6.2 抽样分布样本是进行统计推断的依据．在应用时，往往不是直接使用样本本身，而是针对不同的问题构造样本的适当函数，利用这些样本的函数进行统计推断．一、统计量的概念定义1:设12,,,n X X X 是来自总体X 的一个样本，()12,,,n g X X X 是 12,,,n X X X 的函数，若g 中不含未知参数，则称()12,,,n g X X X 是一个统计量．设12,n x x x 是相应于样本12,,,n X X X 的样本值，则12(,)n g x x x 称为()12,,,n g X X X 的观察值．注: 统计量是随机变量.不一定和总体同分布，不同的统计量有不同的分布.二、常用的统计量1. 样本均值 ∑==ni i X n X 11 观测值记为 11nii x xn==∑2. 样本方差 ()2222111111nn i i i i S X X X nX n n ==⎛⎫=-=- ⎪--⎝⎭∑∑ 观测值记为 ()2222111111nn i i i i s x x x nx n n ==⎛⎫=-=- ⎪--⎝⎭∑∑ 3. 样本标准差S ==观测值记为s ==4. 样本(k 阶)原点矩 ,2,1,11==∑=k X n A n i ki k观测值记为 11,1,2,n kk i i a xk n ===∑5. 样本(k 阶)中心矩 ,3,2,)(11=-=∑=k X X n B ni k i k观测值记为 ()11,1,2,knk i i b x x kn ==-=∑注: （1）上述五种统计量可统称为矩统计量,简称为样本矩,它们都是样本的显示函数,它们的观察值仍分别称为样本均值、样本方差、样本标准差、样本(k 阶)原点矩、样本(k 阶)中心矩.（2）样本的一阶原点矩就是样本均值，样本一阶中心矩恒等于零21121,0,n A X B B S n-===， 三、矩估计法的理论根据若总体X 的k 阶矩()k k E X μ=存在，则当n →∞时Pk k A μ−−→ 1,2,k=证：12,,,n X X X 独立且与X 同分布12,,,k k knX X X ∴独立且与k X 同分布.故有 ()()()()12k kkk n k E X E X E X E X μ=====从而由第五章的大数定理知11n P k k i k i A X n μ==−−→∑ 1,2,k=进而由第五章中关于依概率收敛的序列的性质知道()()1212,,,,,,Pk k g A A A g μμμ−−→其中g 为连续函数，这就是下一章所要介绍的矩估计法的理论根据。

例1:从一批袋装糖果中随机抽取8袋，测得其质量（单位:g ）为： 230, 243, 185, 240, 228, 196, 246, 200 (1)写出总体、样本、样本值及样本容量． (2)求样本均值、样本方差及样本二阶原点矩． 解(1)总体：袋装糖果质量X ；样本：8袋袋装糖果的质量128,,,X X X样本值：128230,243,,200x x x === 样本容量：8n =(2)样本均值8111(230243200)22188i i x x ===+++=∑样本方差()22222111922(21)566817n i i s x x=⎡⎤=-=+++-=⎣⎦-∑样本二阶原点矩822222111(230243200)49336.2588i i a x ===+++=∑例2:设总体X 服从参数为λ的泊松分布，记作~()X πλ，从总体X 中抽取样本12,,,n X X X ，X 和2S 分别为样本均值和样本方差．求2(),(),()E X D X E S .解:由已知有(),E X λ=()D X λ=方差且()(),()(),1,2,,i i E X E X D X D X i n ===()()11111()()n ni i i i E X E X E X nE X E X n n n λ==⎛⎫===⋅== ⎪⎝⎭∑∑2211111()()()()()n ni i i i D X D X D X D X nD X n n n nnλ=====⋅==∑∑ 因22()()[()]E X D X E X =+222221111()()()11n n i i i i E S E X nX E X nE X n n ==⎡⎤⎛⎫⎡⎤=-=-⎢⎥ ⎪⎢⎥--⎝⎭⎣⎦⎣⎦∑∑ 2222111()()()()11n i E X nE X nE X nE X n n =⎡⎤⎡⎤=-=-⎢⎥⎢⎥⎣⎦--⎣⎦∑ {}2222()()()[()][()[()]11n n E X E X D X E X D X E X n n ⎡⎤=-=+-+⎣⎦-- 22111n n n n n n nλλλλλλ⎡⎤-⎛⎫=+-+=⋅= ⎪⎢⎥--⎝⎭⎣⎦ 三、抽样分布统计量的分布为抽样分布. (一)、2χ分布1.定义2 设n X X X ,,,21 是取自总体)1,0(N 的样本, 则称统计量222212n X X X +++= χ为服从自由度为n 的2χ分布,记为).(~22n χχ这里, 自由度是指上式右端所包含的独立变量的个数. 2.)(2n χ分布的概率密度:⎪⎩⎪⎨⎧≤>Γ=--0,0.0,)2/(21)(21122/x x e x n x f x n n其中)(⋅Γ为Gamma 函数，10(),0x x e dx ααα+∞--Γ=>⎰具有(1) (1)()αααΓ+=Γ (2) ()(1)!n n Γ=-(3) 1()2Γ=)(x f 的图形如下3.2χ分布的数学期望与方差:若)(~22n χχ, 则 .2)(,)(22n D n E ==χχ 证：()~0,1()0,()1i i i X N E X D X ∴==故()()21,i i E X D X == ()24423x i E X x dx -+∞-∞==⎰所以()()22211n ni i i i E E X E X n χ==⎛⎫=== ⎪⎝⎭∑∑又()()()2242312i i i D X E X E X ⎡⎤=-=-=⎣⎦由于12,,,n X X X 相互独立，所以22212,,,nX X X 也相互独立 于是()()222112n ni i i i D D X D X n χ==⎛⎫=== ⎪⎝⎭∑∑4．2χ分布的可加性:若2212~(),~(),X n Y n χχ且X 和Y 相互独立，则 212~().X Y n n χ++5．2χ分布的分位点定义:设22~()n χχ，对给定的正数),10(<<αα 称满足条件αχχαχα==>⎰+∞)(222)()}({n dx x f n P 的点)(2n αχ为)(2n χ分布的上α分位点.简称为上侧α分位点.如图)(2n αχ就是使得图中阴影部分的面积为α时，在x 轴上所确定出来的点．对于不同的α与n ，上α分位点的值已制成表格，可以查用（见附表4）．但该表只详列到45n =为止，费歇曾证明，当n 充分大时，有221()(2n u ααχ≈+ 当45n >时，可利用此式求得)(2n αχ分布的上α分位点的近似值．其中u α是标准正态分布的上α分位点，可按如下定义． 6. 标准正态分布的上α分位点定义;设~(0,1)X N ,对给定的正数),10(<<αα若u α满足条件{},P X u αα>= 即()1u ααΦ=-,则称点u α为标准正态分布(0,1)N 的上α分位点 标准正态分布的上α分位点可自附表3查得．如，设0.05α=， 满足{}0.05P X u α>=的点u α查附表3知 1.645u α=.7. 标准正态分布(0,1)N 的双侧α分位点定义:设~(0,1)X N ,对给定的正数),10(<<αα,若2u α满足条件2{},P X u αα>=即2()12u ααΦ=-,则称点2u α为标准正态分布(0,1)N 的双侧α分位点.注: 求双侧α分位点2u α，即是求上2α分位点2u α．例如，设0.05α=满足20.05{}0.0252P X u α>==的2u α,查附表3可得0.025 1.96u =(二)、t 分布1、定义2 设)(~),1,0(~2n Y N X χ,且X 与Y 相互独立,则称T =服从自由度为n 的t 分布, 记为)(~n t t ,2、)(n t 分布的概率密度: +∞<<-∞⎪⎪⎭⎫⎝⎛+Γ+Γ=+-t n x n n n x f n ,1)2/(]2/)1[()(212π3、t 分布具有如下性质：（1）．)(x f 的图形关于纵轴对称，且0)(lim =∞→x f x ;（2）．当n 充分大时，t 分布近似于标准正态分布;4、t 分布的分位点:设~()T t n ，对给定的实数),10(<<αα称满足条件(){()}()t n P T t n f x dx ααα+∞>==⎰的点)(n t α为)(n t 分布的上α分位点.5、由密度函数)(x f 的对称性， ).()(1n t n t αα-=- 注: 由分布上分位点的定义及()f x 图形的对称性知t 分布的上α分位点可通过附表5查得．在45n >时，就用标准正态分布的上α分位点近似：().t n u αα≈ 6、t 分布的双侧分位数设~()T t n ，对给定的实数),10(<<αα称满足条件,)()()}(|{|)()(2/2/2/αααα=+=>⎰⎰+∞-∞-n t n t dx x f dx x f n t T P 点2()t n α为)(n t 分布的上2α分位点. 显然有.2)}({;2)}({2/2/αααα=-<=>n t T P n t T P对不同的α与n ,t 分布的双侧分位数可从附表查得.(三)、F 分布1定义3 设2212~(),~(),X n Y n χχ且X 与Y 相互独立, 则称12//X n F Y n = 服从自由度为12(,)n n 的F 分布, 记为12~(,).F F n n2、()12,F n n 分布的概率密度:()()()()()()()()11122211212212122,02210,0n n n n n n n n x x f x n n n x n x -+⎧Γ+⎡⎤⎣⎦⎪>⎪=⎨ΓΓ+⎡⎤⎣⎦⎪≤⎪⎩3、F 分布具有如下性质: （1）．若)(~n t X ，则);,1(~2n F X （2）．若12~(,),F F n n 则 211~(,).F n n F4．F 分布的分位数:设()12~,F F n n α，对给定的实数),10(<<αα 称满足条件(){}()()1212,,dx F n n P F F n n f x ααα+∞>==⎰的点()12,F n n α为()12,F n n 分布的上α分位点.F 分布的上侧分位数的可自附表查得.5.F 分布的一个重要性质: ()()112211,,F n n F n n αα-=证明：12~(,)F F n n 若112112111{(,)}{}(,)P F F n n P F F n n ααα---=>=<112111{}(,)P F F n n α-=-≥ 11211{}(,)P F F n n αα->=所以212111/~(,){(,)}F F n n P F n n F αα>=又因为， 211121(,)(,)F n n F n n αα-=所以 112211(,)(,)F n n F n n αα-=即此式常常用来求F 分布表中没有列出的某些上侧分位数. 如：()()0.950.05115,100.21110,5 4.74F F ===0.950.0511(12,9)0.357(9,12) 2.80F F ===(四)、正态总体的样本均值与方差的分布定理1 设n X X X ,,,21 是总体2(,)N μσ的样本, X 是样本均值则2~,X N n σμ⎛⎫ ⎪⎝⎭证：因为随机变量 12,,,n X X X 相互独立且与总体2~(,),X N μσ所以11ni i X X n ==∑服从正态分布11()()n i i E X E X n μ===∑ 2211()()nii D X D X nnσ===∑于是2,XN n σμ⎛⎫ ⎪⎝⎭推论: 设总体),,(~2σμN X n X X X ,,,21 是取自X 的一个样本,则有).1,0(~/N nX U σμ-=定理 2 设总体),,(~2σμN X n X X X ,,,21 是取自X 的一个样本, X 与2S 分别为该样本的样本均值与样本方差, 则有 (1) 222(1)~(1);n S n χσ-- (2) X 与2S 相互独立.定理 3 设总体),,(~2σμN X n X X X ,,,21 是取自X 的一个样本, X 与2S 分别为该样本的样本均值与样本方差, 则有~(1).X t n -证：由定理1知，统计量()~0,1U N =又由定理2知，统计量()()22221~1n S n χχσ-=-因为X 与2S 相互独立,所以U =与()2221n S χσ-=也相互独立于是 ，由t 分布的定义可知，统计量()~1T t n ===-定理4设),(~211σμN X ,),(~222σμN Y 是两个相互独立的正态总体, 又设1,,,21n X X X 是取自总体X 的样本, X 与21S 分别为该样本的样本均值与样本方差. 2,,,21n Y Y Y 是取自总体Y 的样本, Y 与22S 分别为此样本的样本均值与样本方差. 再记2w S 是21S 与22S 的加权平均, 即.2)1()1(212222112-+-+-=n n S n S n S w则 (1) );1,0(~//)()(22212121N n n Y X U σσμμ+---=证明：统计量2111~,X N n σμ⎛⎫ ⎪⎝⎭，2222~,Y N n σμ⎛⎫ ⎪⎝⎭且X 与Y 相互独立，由正态分布的性质知22121212~,X Y N n n σσμμ⎛⎫--+ ⎪⎝⎭即()()12~0,1X Y U N μμ---=推论：在定理4的条件下，如果22212σσσ==则随机变量()12~(0,1)X Y U N μμ---=(2)当22221σσσ==时, ).2(~/1/1)()(212121-++---=n n t n n S Y X T w μμ证：由定理4推论可知，统计量()()12~0,1X Y U N μμ---=又由定理2知 ()()211221121~1,n S n χχσ-=- ()()222222221~1n S n χχσ-=-因为21S 与22S 相互独立，所以由2χ分布的可加性可知 统计量()()()2211222221212211~2n S n S V n n χχχσ-+-=+=+-因为 X 与 21S 相互独立， Y 与 22S 相互独立 所以统计量U 与V 也相互独立于是，由 t 分布定义可知，统计量()()1212~2X Y T t n n μμ---==+-(3) 2221122212~(1,1);S F F n n S σσ=⋅--证：222212122212122212(1)(1)~(1),~(1)n S n S n n χχχχσσ--=-=-且相互独立，由F 分布的定义有2221212222121122(1)~(1,1)(1)n S F F n n n S χσχσ-==⋅---例3:从正态总体(5,4)N 中抽取容量为25的样本,求样本均值落在区间(4.7,5.5)内的概率. 解：由于~(0,1).X U N ={4.7 5.5}X P X P ⎧⎫<<=<<0.75 1.25X P ⎧⎫⎪⎪=-<<⎨⎬⎪⎪⎩⎭ (1.25)(0.75)=Φ-Φ-(1.25)(0.75)10.89440.773410.6678=Φ+Φ-=+-=例4: 设1216,,,.X X X 是来自正态总体(0,4)N 的样本,求概率162177.476i i P X =⎧⎫≤⎨⎬⎩⎭∑解:由~(0,1)i X N μσ-知,~(0,1)2iX N 因此21616222111~(16)24i i i i X X χχ==⎛⎫== ⎪⎝⎭∑∑{}1616222111177.47677.47619.36944i i i i P X P X P χ==⎧⎫⎧⎫≤=≤⨯=≤⎨⎬⎨⎬⎩⎭⎩⎭∑∑{}2119.36910.250.75P χ=->=-=练习1设61,,X X 是来自总体)1,0(N 的样本, 又设26542321)()(X X X X X X Y +++++=试求常数C , 使CY 服从2χ分布.解：因123~(0,3)X X X N ++ 456~(0,3)X X X N ++~(0,1)X X X N ++~(0,1)X X X N ++且它们相互独立222~(2)χ+ 故应取13C =，从而21~(2)3Y χ2设总体X 服从标准正态分布,是来自总体X 的一个简单随机样本, 试问统计量5,15512512>⎪⎭⎫ ⎝⎛-=∑∑==n X X n Y i i i i服从何种分布?解：因为5221~(0,1),~(5)i ii X N X χ=∑，226~(5)ni i X n χ=-∑且521ii X=∑与26nii X=∑相互独立521265~(5,5)(5)ii nii XF n Xn ==--∑∑所以5522111~(5,5)5iii i n Y X XF n ==⎛⎫=-- ⎪⎝⎭∑∑3设),2,21(~2N X 2521,,,X X X 为X 的一个样本,求:(1) 样本均值X 的数学期望与方差; (2) }.24.0|21{|≤-X P 解：（1）由于),2,21(~2N X 所以2221,25XN ⎛⎫ ⎪⎝⎭于是222()21,()0.425E X D X === （2）()221,0.4XN 得21~(0,1).0.4X N - 21{|21|0.24}{||0.6}2(0.6)10.45140.4X P X P --≤=≤=Φ-= 4设两个总体X 与Y 都服从正态分布)3,20(N ，今从总体X 与Y 中分别抽得容量15,1021==n n 的两个相互独立的样本, 求}.3.0|{|>-Y X P()()()122020~0,1X Y X Y N μμ------==于是{||0.3}1{||121P X Y P ⎡⎤->=-≤=-Φ-⎢⎥⎣⎦22(0.42)0.6744=-Φ=第七章 参数估计在实际问题中, 当所研究的总体分布类型已知, 但分布中含有一个或多个未知参数时, 如何根据样本来估计未知参数，这就是参数估计问题.参数估计问题分为点估计问题与区间估计问题两类. 所谓点估计就是用某一个函数值作为总体未知参数的估计值；区间估计就是对于未知参数给出一个范围，并且在一定的可靠度下使这个范围包含未知参数.例如, 灯泡的寿命X 是一个总体, 根据实际经验知道,X 服从),(2σμN , 但对每一批灯泡而言, 参数2,σμ是未知的,要写出具体的分布函数, 就必须确定出参数. 此类问题就属于参数估计问题.参数点估计问题的一般提法:设有一个统计总体, 总体的分布函数为),(θx F , 其中θ为未知参数(θ可以是向量). 现从该总体中随机地抽样, 得一样本n X X X ,,,21 ,n x x x ,,,21 是相应的一个样本值.点估计问题是用样本构造一个适当的统计量12ˆˆ(,,,),n X X X θθ=来估计参数θ,称ˆθ为θ的估计量. 估计量ˆθ的值),,,(ˆ21n x x x θ称为为θ的估计值§7.1 点估计一、矩估计法1定义:设总体X 的分布函数1(;,,)l F x θθ中含有l 个未知参数1,,l θθ,如果总体X 的k 阶原点矩()k E X 存在，记()()1,,,k k l E X μθθ=1,2,,k l =1,,n X X X 其中为来自的样本 11, k 1,2,,n kk i i A X l n ===∑为样本k 阶原点矩，,1,,k k A k l μ==令即1112221212ˆ(,,,),ˆ(,,,),ˆ(,,,).l l l l l A A A μθθθμθθθμθθθ=⎧⎪=⎪⎨⎪⎪=⎩ 解得12ˆˆ(,,,)1,2,,k k n X X X l θθ==，k 并以ˆkθ作为k θ的估计量， 则称12ˆˆ(,,,)k k n X X X θθθ=k 为参数的矩估计量，这种参数估计法称为参数的矩估计法，简称矩法。