4.3 协方差与相关系数及矩与协方差矩阵

1 1 1 DX DY XY DX DY 9 4 3
1 1 1 1 9 16 3 4 3. 9 4 3 2 X Y cov X , X cov X , Y ( 2) cov( X , Z ) cov X , 3 3 2 2 1 1 cov( X , X ) cov( X ,Y ) 3 2 1 1 DX XY DX DY 3 2 1 2 1 1 3 3 4 0, 3 2 2 XZ 0.
P ( X a, X a ) P ( X a ) P ( X a ),
即X与|X|不独立.
三、矩与协方差矩阵的概念 定义4 设X,Y是两个随机变量,
(1)若E ( X k )( k 1,2,)存在, 则称它为X的k阶原点矩,
记为 k E ( X k ).
( 2)若E[ X E ( X )]k ( k 1,2,)存在பைடு நூலகம் 则称它为X的k阶 中心矩, 记为 k E[ X E ( X )]k . ( 3)若E ( X Y )( k , l 1,2,)存在,
性质6 若X ,Y相互独立, 则cov( X ,Y ) 0;
性质7 若U ,V为随机变量, 且E (U 2 ), E (V 2 )都存在, 则
[ E (UV )]2 E (U 2 ) E (V 2 );
取U X E ( X ),V Y E (Y ), 则有 [cov( X ,Y )]2 D( X ) D(Y ).
定义3 若 cov( X ,Y ) 0或 XY 0,
则称随机变量X与Y不相关.
几点说明:
(1) cov( X ,Y ) E ( XY ) E ( X ) E (Y ), cov( X , X ) D( X ).
( 2)离散型 : cov( X ,Y ) [ xi E ( X )][ y j E (Y )] pij .
cov( X ,Y ) E ( XY ) EX EY E ( XY )

x y 1
2 2
xy dxdy 0,
1

从而可知X与Y不相关.
1 x 2 1 1 x 2 dy x 1 而f X ( x ) f ( x , y )dy 0 其它 2 1 x2 y x 1 , 0 o x 其它


故X与|X|不相关.
(3)对给定的0 a , ( X a ) ( X a ),
且P ( X a ) 0, P ( X a ) 1,
P ( X a, X a ) P ( X a ). 但P ( X a ) P ( X a ) P ( X a ),
定义5
设二维随机变量 X ,Y )的四个二阶中心矩存在记为 ( ,
c11 E[ X E ( X )]2 ,
c12 E{[ X E ( X )][Y E (Y )]}, c21 E{[Y E (Y )][ X E ( X )]},
c22 E[Y E (Y )]2 ,
Chapter 4(3)
协方差与相关系数 及矩与协方差矩阵
教学要求：
1. 了解协方差、相关系数的概念与性质，并会计算;
2. 了解矩、协方差矩阵的概念与性质，并会计算.
一. 协方差与相关系数 二. 协方差与相关系数的性 质
三. 矩与协方差矩阵的概念
一、协方差与相关系数
E {[ X E ( X )][Y E (Y )]} E[ XY XE (Y ) YE ( X ) E ( X ) E (Y )] E ( XY ) E ( X ) E (Y ) E (Y ) E ( X ) E ( X ) E (Y ) E ( XY ) E ( X ) E (Y )
i j
( 3)连续型 : cov( X ,Y ) [ x E ( X )][ y E (Y )] f ( x , y )dxdy.

ex1.设(X,Y)均匀分布于以坐标原点为中心，单位长为 半径的圆的内部，求cov(X,Y)，并问X,Y是否不相 关？是否相互独立？ 1 2 2 x y 1 解 f ( x , y ) , 0 其它 1 1 EX x dxdy 0, EY y dxdy 0, x 2 y 2 1 x 2 y 2 1
性质8 XY 1;
性质9
XY 1的充分必要条件是 与Y以概率1线性相关, X
即P{Y aX b} 1, 其中a , b是常数.
ex2.已知X和Y分别服从正态分布 N (1,32 )和N (0,42 ), 1 X Y 且X与Y的相关系数 XY , 设Z 2 3 2 (1)求Z的数学期望E(Z)和方差D(Z)；
c11 c12 将它们排成矩阵的形式: , c21 c22
这个矩阵叫做 X ,Y )的协方差矩阵 ( .
一般地,
设n维随机变量( X1 , X 2 ,, X n )的二阶中心矩存在记为 ,
cij cov( X i , X j ) E{[ X i ( X i )][ X j E ( X j )]} ( i 1,2,, n)
2 1 y2 y 1 同理, fY ( y ) , 0 其它
由f ( x , y ) f X ( x ) fY ( y )可得X与Y不独立.
注意 1、设有随机变量X,Y，下列事实是等价的：
(1) cov( X ,Y ) 0
( 2) X与Y不相关
( 3) E ( XY ) E ( X ) E (Y ) (4) D( X Y ) D( X ) D(Y )
性质2 cov(aX , bY ) ab cov( X ,Y ), a , b为常数;
性质3 cov( X1 X 2 ,Y ) cov( X1 ,Y ) cov( X 2 ,Y ); 性质4 D( X Y ) D( X ) D(Y ) 2 cov( X ,Y ); 性质5 cov( X ,Y ) XY D( X ) D(Y );
ex3.设随机变量X的概率分布密度为 1 x f ( x) e x , 2 (1)求X的数学期望E(X)和方差D(X). (2)求cov(X,|X|)，并问X与|X|是否不相关？ (3)问X与|X|是否相互独立？为什么？ 1 x 解 (1) EX xf ( x )dx x e dx 0, 2 DX E[ X E ( X )]2 E ( X 2 )
定义2
设( X ,Y )是二维随机变量 若 cov( X ,Y ), D( X ), D(Y )都 , cov( X ,Y ) 存在, 且D( X ) 0, D(Y ) 0, 则称 为随 D( X ) D(Y ) 机变量X与Y的相关系数或标准协方 , 记为 XY ,即 差
XY
cov( X ,Y ) . D( X ) D(Y )
1 2 x 1 x e dx 20 x e dx 2, 2 2 (2) cov( X , X ) E ( X X ) EX E X E ( X X ) 2 x
1 x x x f ( x )dx x x e dx 0, 2
故当X、Y相互独立时, 有 E {[ X E ( X )][Y E (Y )]} 0. 这就意味着当 E {[ X E ( X )][Y E (Y )]} 0 时X与Y不相互独立，而存在着一定的联系.
但这种联系不像函数关系那样具有确定的对应关系， 即不能用函数关系来描述，通常称这种联系为相关 性关系。这里用协方差与相关系数来刻划相关性关 系中的线性相关.
k l
则称它为X ,Y的k l阶混合原点矩. (4)若E{[ X E ( X )]k [Y E (Y )]l }(k , l 1,2,)存在, 则称它为X ,Y的k l阶混合中心矩.
所以，数学期望、方差、协方差都是矩，是特殊的矩.
• 如果随机变量的概率分布关于期望值是 对称的，则对一切奇数阶中心矩都等于 零。 • 通常用一个无量纲的量 3 / 来度量随 机变量分布的不非对称性，称它为偏态 系数。 • 四阶中心矩可以描述随机变量分布的尖 4 / 4 3来度量分布的 峭程度，通常用 尖峭程度，峰态系数
c11 c12 c21 c22 c n1 cn 2 c1n c2 n cnn
称矩阵 : (cij )n n
为n维随机变量( X1 , X 2 ,, X n )的协方差矩阵 .
协方差矩阵为实对称矩阵. The end
( 2)求X与Z的相关系数 XZ .
解 (1) EX 1, DX 9; EY 0, DY 16,
1 1 0 1 X Y 1 EZ E EX EY . 2 3 2 3 3 2 3
X Y X Y X Y DZ D D D 2 cov , 3 2 3 2 3 2 1 1 1 DX DY cov( X ,Y ) 9 4 3
定义1
设( X ,Y )是二维随机变量 若E ( X ), E (Y ), D( X ), D(Y ) , 都存在, 则称E{[ X E ( X )][Y E (Y )]}为随机变量X 与Y的协方差, 记为cov( X ,Y )或 XY ,即
cov( X ,Y ) E{[ X E ( X )][Y E (Y )]}.
2、X与Y不相关，是指X与Y之间不存在线性关系， 并非它们之间什么关系也没有. 3、独立性与不相关性，在一般情形是不等价的， X与Y独立时必有X与Y不相关，但反过来不一 定成立.
4、当(X,Y)服从二维正态分布时，X与Y独立与X与Y 不相关是等价的 .
二、协方差与相关系数的性质 性质1 cov( X ,Y ) cov(Y , X );