方差协方差与相关系数

§2 方差、协方差与相关系数 一、方差 例1 例1????????????????????? 比较甲乙两人的射击技术，已知两人每次击中环数分

布为 ：789010601... ：6789100102040201...... 问哪一个技术较好？ 首先看两人平均击中环数，此时8EE，从均值来看无法分辩孰优孰劣. 但从直观上看，甲基本上稳定在8环左右，而乙却一会儿击中10环，一会儿击中6环，较不稳定.因此从直观上可以讲甲的射击技术较好. 上例说明：对一随机变量，除考虑它的平均取值外，还要考虑它取值的离散程度.

称-E为随机变量对于均值E的离差(deviation)，它是一随机变量. 为了给出一个描述离散程度的数值，考虑用EE，但由于EE=EE=0对一切随机变量均成立，即的离差正负相消，因此用EE是不恰当的. 我们改用2EE

描述取值的离散程度，这就是方差.

定义1 若2EE存在，为有限值，就称它是随机变量的方差(variance)，记作Var,

Var=2EE (1) 但Var的量纲与不同，为了统一量纲，有时用Var，称为的标准差(standard deviation). 方差是随机变量函数2E的数学期望，由§1的(5)式，即可写出方差的计算公式

Var=2()d()xEFx=22()(),,()()d.iiixEPxxEpxx离散型，连续型 (2) 进一步，注意到

2EE=222EEE=22EE

即有

Var=22EE. (3) 许多情况，用(3)式计算方差较方便些.

例1(续) 计算例1中的方差Var与Var. 解 利用(3)式

2E=iiixPx)(2=72×+82×+92×=, Var=22EE=82=. 同理, Var=22EE= = > Var, 所以取值较分散. 这说明甲的射击技术较好. 例2 试计算泊松分布P(λ)的方差.

解 2201!(1)!kkkkEkekekk 所以Var22. 例3 设服从[ a, b ]上的均匀分布U [a, b]，求Var.

解 222211d3baExxaabbba, Var2221132aabbab2112ba. 例4 设服从正态分布2,Na，求Var. 解 此时用公式(2)，由于Ea, Var2()Ea222()/21()d2xaxaex 2222g. 可见正态分布中参数2就是它的方差, 就是标准差. 方差也有若干简单而重要的性质. 先介绍一个不等式. 切贝雪夫(Chebyshev)不等式 若随机变量的方差存在，则对任意给定的正数ε，恒有 2VarPE

. (4)

证 设的分布函数为Fx，则 PE

=||)(ExxdF22||()d()xExEFx

22

1()d()xEFx

=Var/2.

这就得(4)式. 切贝雪夫不等式无论从证明方法上还是从结论上都有一定意义. 事实上，该式断言落在,E与,E内的概率小于等于Var/2，或者说，落在区间

,EE

内的概率大于1-Var/2，从而只用数学期望和方差就可对上述概率

进行估计. 例如，取

ε=3Var，则 2

Var1Var3VarPE

≈.

当然这个估计还是比较粗糙的（当～2,Na时，在第二章曾经指出, P(|ξ-E|3Var)=P(|ξ-a|3σ)≈ ). 性质1 Var=0 的充要条件是P(ξ=c) =1，其中c是常数. 证 显然条件充分. 反之，如果Var= 0，记E= c, 由切贝雪夫不等式, P(|ξ- E|ε)=0 对一切正数ε成立. 从而

1lim11nPcn. 性质2 设c,b都是常数，则

Var(c+b)=2cVar. (5) 证 Var(c+b)=E(c+b-E(c+b))2=E(c+b-cE-b)2 =2c2()EE=c2Var. 性质3 若cE, 则2VarEc. 证 因 Var=E2-2)(E, 而 E(ξ-c)2=E2-2cE+2c, 两边相减得2VarEc20Ec.这说明随机变量ξ对数学期望E的离散度最小.

性质4 1Var()nii=1Varnii+2njijjiiEEE1))(( (6) 特别若1,,nL两两独立，则

1Var()nii=1Varnii. (7) 证 Var()1nii=E(nii1-E()1nii)2=EniiiE12))(( = EninjijjiiiiEEE112)))((2)(( =1Varnii+2njijjiiEEE1))((, 得证(6)式成立. 当1,,nL两两独立时，对任何1,ijn有ijijEEE， 故 E))((jjiiEE=E()jiijjijiEEEE

=EjijiEE=0, 这就得证(7)式成立. 利用这些性质，可简化某些随机变量方差的计算.

例5 设ξ服从二项分布B(n, p), 求Var. 解 如§1例12构造i,1,,inL, 它们相互独立同分布，此时 Var2222201)(pqpEEiii=pq. 由于相互独立必是两两独立的，由性质4

Var1Var()nii1niiVarnpq. 例6 例6????????? 设随机变量1,,nL相互独立同分布, iEa, Vari=2,

(1,,inL). 记=niin11, 求E,Var. 解 由§1性质2和本节性质2和4有

E11niiEna, Var211Varniin

2

2

1nn2

n



.

这说明在独立同分布时，作为各i的算术平均，它的数学期望与各i的数学期望相同，但方差只有i的1/ n倍. 这一事实在数理统计中有重要意义. 例7 设随机变量ξ的期望与方差都存在,Var0. 令 *Var

E

,

称它为随机变量ξ的标准化. 求*E与Var*. 解 由均值与方差的性质可知 *()0VarEEE

,

*Var()VarVarE1VarVar. 二、协方差

数学期望和方差反映了随机变量的分布特征. 对于随机向量1(,,)nL, 除去各分量的期望和方差外，还有表示各分量间相互关系的数字特征——协方差.

定义2 记i和j的联合分布函数为),(yxFij. 若()()iijjEEE，就称 ()()iijjEEE()()d(,)ijijxEyEFxy (8)

为,ij的协方差( covariance)，记作Cov(,ij). 显然， Cov,ijVari.公式(6)可改写为

Var(nii1)niiVar1+2njijiCov1),(. ')6( 容易验证，协方差有如下性质： 性质1 Cov(,) = Cov(,)EEE. 性质2 设,ab是常数，则 Cov(,)abCov(,)ab.

性质3 11Cov(,)Cov(,)nniiii. 对于n维随机向量ξ=1(,,)nL，可写出它的协方差阵

BEEE







nnnnnnbbbbbbbbb212222111211

, (9) 其中Cov(,)ijijb. 由性质1可知B是一个对称阵，且对任何实数jt,1,,jnL, 二次型 nkjkjjkttb1,,1()()njkjjkkjkttEEE21(())0njjjjEtE

,

即随机向量ξ的协方差阵B是非负定的. 性质4 设

ξ=1(,,)nL , C =ccccnmmn1111, 则C的协方差阵为CBC，其中B是ξ的协方差阵. 因为''''')(CCECECCEC，所以CBC的第,ij元素就是C的第i元素与第j元素的协方差. 三、相关系数

协方差虽在某种意义上表示了两个随机变量间的关系，但Cov,的取值大小与ξ,的量纲有关. 为避免这一点，用ξ,的标准化随机变量（见例7）来讨论.

定义3 称

r=Cov(,)()()VarVarEEE (10) 为ξ, 的相关系数(correlation coefficient). 为了讨论相关系数的意义，先看一个重要的不等式. 柯西—许瓦茨(Cauchy—Schwarz)不等式 对任意随机变量ξ, 有

222EEE. (11) 等式成立当且仅当存在常数0t使 01Pt. (12) 证 对任意实数t 是t的二次非负多项式，所以它的判别式

222()0EEE,