协方差与相关系数(PPT课件)
合集下载
第13讲 协方差与相关系数 太原理工大学工程硕士概率论与数理统计
22
[例] 已知 解
X 服从 0, 2π
上的均匀分布，求 E ( X 2 ), E (sin X )
X 的概率密度
1 ， 0 ≤ x ≤ 2π， f ( x) 2 π 其他， 0，
E( X 2 )
1 2 x f ( x)dx 2π
2π 0
3 2 2 π 1 x 4 π x 2 dx 2π 3 0 3
则： 2 X Y ~ N (0,25)
( 2) D(2 X Y ) 4 DX DY 2 2COV ( X , Y ) 1 25 - 4 XY DX DY 25 4 2 3 13 2
则： 2 X Y ~ N (0,13)
20
小结
本讲首先介绍二维随机向量 (X,Y) 的分量 X与Y 的协方差及相关系数的概念、性质和计 算；然后介绍随机变量的各种矩(k 阶原点矩、 k 阶中心矩、k+m 阶混合原点矩、k+m 阶混 合中心矩)，n 维随机向量的协方差阵的概念、 性质和计算；最后简单介绍了n 元正态分布 的概念和三条重要性质。
则(Y1,Y2, …, Yk)'服从k 元正态分布。
这一性质称为正态变量的线性变换不变性。
17
(3) 设(X1,X2, …,Xn)服从n元正态分布，则 “X1, X2, …, Xn 相互独立” 等价于 “X1,X2, …,Xn两两不相关”。
18
例2 设X和Y相互独立，且X~N(1, 2), Y~N(0, 1)。 求 Z = 2X-Y+3 的概率密度。 解: 由X~N(1,2), Y~N(0,1)，且X与Y相互独立,
c22 E{[ X 2 E ( X 2 )]2 } c11 c12 排成一个2×2矩阵 ， c 21 c 22
协方差与相关系数 PPT
D(V ) D(2X Y ) D(2X ) D(Y ) 2Cov(2X ,Y )
4D( X ) D(Y ) 2 2 Cov( X ,Y ) 17
所以
Cov(U ,V ) Cov(2X Y , 2X Y )
Cov(2X , 2X ) Cov(2X ,Y ) Cov(Y , 2X ) Cov(Y ,Y )
所以D(t0X*-Y*)=0,由方差得性质知它等价于 P{t0X*-Y* =0}=1,即P{Y=aX+b}=1
其中a=t0σ(Y)/σ(X),b=E(Y)- t0 E(X) σ(Y)/σ(X)、
• 性质3:若X与Y相互独立,则ρXY=0、 证明 若X与Y相互独立,则E(XY)=E(X)E(Y), 又 Cov(X,Y)= E(XY)-E(X)E(Y),所以
协方差与相关系数
一、协方差得概念及性质 二、相关系数得概念及性质 三、协方差得关系式
§1 协方差
• 定义:设二维随机向量(X,Y)得数学期望 (E(X),E(Y))存在,若E[(X-E(X))(Y-E(Y))]存在,则称 它为随机变量X与Y得协方差,记为Cov(X,Y),即
Cov(X,Y)= E[(X-E(X))(Y-E(Y))] • 协方差有计算公式
9 ， XY
1 3
，设
U
2X
Y
，
V 2X Y ， 求 UV .
解
Cov( X ,Y ) XY
D( X ) D(Y ) 1 3
49 2
D(U ) D(2X Y ) D(2X ) D(Y ) 2Cov(2X ,Y )
4D( X ) D(Y ) 2 2 Cov( X ,Y ) 33
E( X ) (1) 0.15 1 0.35 0.20
第14讲 协方差与相关系数
X 和 Y 独立时 X 和 Y 不相关， 反之不一定成立。 但对下述情形，独立与不相关是一回事： 若(X, Y )服从二维正态分布，则
X 与Y 独立的充分必要条件是X与Y不相关。 参见P70-例3.6.3： X与Y独立 XY=0
练习2 1) X ~ U (0,1), Y X 2 , 求 XY
2 1 x2 1 2 dy = 1 x -1 x 1 1 x2 f X ( x) 0, 其他 1 2 E( X ) x 1 x2 d y 0
1
E ( XY )
1
x 2 y 2 1 1 1
( xy/ ) dxdy
期望、方差、协方差的性质对比
期望
E(c)=C E(aX)=aE(X), E(X+Y) =E(X)+E(Y) 当X与Y独立时 E(XY)=E(X)E(Y)
方差
D(c)=0 D(aX)=a2D(X),
协方差
Cov(c,X)=0
Cov(aX,bY) =abCov(X,Y) D(X+Y)=D(X)+ Cov(X+Y,Z) D(Y)+2Cov(X,Y) =Cov(X,Z) +Cov(Y,Z)
y 1
1 y 2 1 y 2
xdx dy
1 0 dy 0.
所以，Cov(X, Y)= E(XY)-E(X) E(Y) = 0 . 此外，Var(X) > 0, Var(Y) > 0 . 所以，XY = 0，即 X 与 Y 不相关。 但是，在第三章已计算过: X与Y不独立。
第十四讲 协方差与相关系数
前面我们介绍了随机变量的数学期望 和方差，对于多维随机变量，反映分量之 间关系的数字特征中，最重要的，就是本 讲要讨论的 协方差和相关系数
期望、协方差、方差与相关系数PPT22页
期望、协方差、方差与相关系数
41、俯仰终宇宙，不乐复何如。 42、夏日长抱饥，寒夜无被眠。 43、不戚戚于贫贱，不汲汲于富贵。 44、欲言无予和，挥杯劝孤影。 45、盛年不重来，一日难再晨。及时 当勉励 ，岁月 不待人 。
期望、协方差、方差与相关系数
张宏浩
协方差的一些性质
独立意味着不相关
方差是协方差矩阵的对角元
多个随机变量之和的方差
方差的一些性质
切比雪夫不等式
相关系数的定义
相关系数的性质
ห้องสมุดไป่ตู้
66、节制使快乐增加并使享受加强。 ——德 谟克利 特 67、今天应做的事没有做，明天再早也 是耽误 了。——裴斯 泰洛齐 68、决定一个人的一生，以及整个命运 的，只 是一瞬 之间。 ——歌 德 69、懒人无法享受休息之乐。——拉布 克 70、浪费时间是一桩大罪过。——卢梭
41、俯仰终宇宙，不乐复何如。 42、夏日长抱饥，寒夜无被眠。 43、不戚戚于贫贱，不汲汲于富贵。 44、欲言无予和，挥杯劝孤影。 45、盛年不重来，一日难再晨。及时 当勉励 ，岁月 不待人 。
期望、协方差、方差与相关系数
张宏浩
协方差的一些性质
独立意味着不相关
方差是协方差矩阵的对角元
多个随机变量之和的方差
方差的一些性质
切比雪夫不等式
相关系数的定义
相关系数的性质
ห้องสมุดไป่ตู้
66、节制使快乐增加并使享受加强。 ——德 谟克利 特 67、今天应做的事没有做，明天再早也 是耽误 了。——裴斯 泰洛齐 68、决定一个人的一生，以及整个命运 的，只 是一瞬 之间。 ——歌 德 69、懒人无法享受休息之乐。——拉布 克 70、浪费时间是一桩大罪过。——卢梭
协方差和相关系数的计算ppt(共24张PPT)
E(X 2) 2
D( X ) D(Y ) 2
E(Y 2 ) 2
cov(U ,V ) (a2 b2 ) 2
而 D(U ) a2D( X ) b2D(Y ) (a2 b2 ) 2
D(V ) a2D( X ) b2D(Y ) (a2 b2 ) 2
故
UV
a2 a2
b2 b2
XY 1 0 P pq
E(X ) p, E(Y ) p, D(X ) pq, D(Y ) pq, E(XY ) p, D(XY ) pq,
cov( X ,Y ) pq, XY 1
例2 设 ( X ，Y ) ~ N ( 1，12，2，22，)， 求
XY ．
解
cov( X ,Y )
当D(X ) > 0， D(Y ) > 0 时，当且仅当
P(Y E(Y ) t0 ( X E( X ))) 1
时，等式成立 —Cauchy-Schwarz不等式．
证明 令
g(t) E[(Y E(Y )) t( X E( X ))]2 D(Y ) 2t cov( X ,Y ) t2D( X )
在寒冷的年代里，母爱是温暖。
协方差和相关系数的计算
cov(U ,V ) 解 在文明的年代里，母爱是道德。
继续讨论：a，b 取何值时，U，V 不相关？
E(UV
)
E(U
)E(V
)
为X，Y 的相关系数，记为
a E( X ) b E(Y ) 例2 设 ( X ，Y ) ~ N ( 1， 12， 2， 22，2 )， 求 2XY ． 2
E( XY ) p, D( XY ) pq,
cov( X ,Y ) pq, XY 1
X X p ,Y Y p , P(X Y ) 1
概率论与数理统计课件 协方差与相关系数
试求二维正态随机变量的边缘概率密度 .
p( x, y)
1
e 1 2(1 ρ2
)
(
x
μ1 σ12
)2
2
ρ(
x
μ1 )( σ1σ2
y
μ2
)
(
y
μ2 σ22
)2
2πσ1σ2 1 ρ2
pX (x) pY ( y)
1
e ,
(
x μ1 2 σ12
)2
2πσ1 1
e
(
y μ2 2σ22
)2
1
2πσ1σ2
1 ρ2
( x μ1 )( y μ2 )
e e d y d x.
(
x μ1 2σ12
)2
1 2(1
ρ2
)
y
μ2 σ2
ρ
x
μ1 σ1
2
令t
1 1
ρ2
y
μ2 σ2
ρ
x
μ1 σ1
,
u x μ1 , σ1
2019/4/24
4-3—协方差和相关系数
3 .不相关与相互独立的关系
相互独立 不相关
2019/4/24
4-3—协方差和相关系数
10
例1 设 ( X ,Y ) 在圆域 x2 y2 1 上服从均匀分布, （1）问X与Y是否独立？ （2）求相关系数
例2 X ~N(0,1),Y X 2, 证明X与Y不相关且不独立
解：E( XY ) E( XX 2 ) x3 ( x)dx 0 Cov( X ,Y ) E( XY ) E( X )E(Y ) 0 故X与Y不相关
2019/4/24
4-3—协方差和相关系数
概率论教学课件第四章4.4协方差与相关系数
1
一、协方差
对于二维随机变量(X,Y),讨论描述X与Y之间相互 依赖关系的数字特征.
X与Y相互独立 E[(X EX )(Y EY )] 0
或者：E[(X EX )(Y EY )] 0 X与Y一定不相互独立
定义1. 若E[(X EX )(Y EY )]存在, 则称E[(X EX )(Y EY )]为X与Y的协方差.
(连续型)．
-
3
或者用以下公式计算
Cov(X , Y ) E(XY ) EX EY
Cov (X , Y ) E[(X EX )(Y EY )]
E(XY XEY YEX EXEY ) E(XY ) EX EY EX EY EX EY E(XY ) EX EY
4
定义2* 设 DX 0 , DY 0，称X,Y的标准化随机变量
X , Y 的协方差 Cov ( X , Y ) 为X与Y的相关系数.
记 为 XY , 即
XY Cov( X , Y ) E( X Y ) EX EY E( X Y )
E[( X EX )(Y EY )] Cov( X ,Y ) .
其逆命题不真！
注:若Cov X,Y 0,即E XY EXEY,则X与Y不相互独立.
4. D(X Y ) DX DY 2Cov(X , Y ).
5
例4.14 设二维随机变量(X,Y )的联合分布列为
XY 0 1 pi 0 0.2 0.3 0.5 1 0.5 0 0.5
p j 0.7 0.3
1 R
2
R
dx
R
R2 x2
xydy
R2 x2
0，
Cov(X , Y ) E(XY ) EXEY 0 00 0 .
8
Cov(X , Y ) E(XY ) EXEY 0 .
一、协方差
对于二维随机变量(X,Y),讨论描述X与Y之间相互 依赖关系的数字特征.
X与Y相互独立 E[(X EX )(Y EY )] 0
或者：E[(X EX )(Y EY )] 0 X与Y一定不相互独立
定义1. 若E[(X EX )(Y EY )]存在, 则称E[(X EX )(Y EY )]为X与Y的协方差.
(连续型)．
-
3
或者用以下公式计算
Cov(X , Y ) E(XY ) EX EY
Cov (X , Y ) E[(X EX )(Y EY )]
E(XY XEY YEX EXEY ) E(XY ) EX EY EX EY EX EY E(XY ) EX EY
4
定义2* 设 DX 0 , DY 0，称X,Y的标准化随机变量
X , Y 的协方差 Cov ( X , Y ) 为X与Y的相关系数.
记 为 XY , 即
XY Cov( X , Y ) E( X Y ) EX EY E( X Y )
E[( X EX )(Y EY )] Cov( X ,Y ) .
其逆命题不真！
注:若Cov X,Y 0,即E XY EXEY,则X与Y不相互独立.
4. D(X Y ) DX DY 2Cov(X , Y ).
5
例4.14 设二维随机变量(X,Y )的联合分布列为
XY 0 1 pi 0 0.2 0.3 0.5 1 0.5 0 0.5
p j 0.7 0.3
1 R
2
R
dx
R
R2 x2
xydy
R2 x2
0，
Cov(X , Y ) E(XY ) EXEY 0 00 0 .
8
Cov(X , Y ) E(XY ) EXEY 0 .
概率论与数理统计(第三版)第三章4协方差与相关系数-PPT精品文档
o 3 X , Y 不相关 E ( XY ) E ( X ) E ( Y ).
3. 相关系数的性质
是一个用来表征 X ,Y之间线性关系紧密 XY
程度的量 .
1 . 1 ρ XY
a , b使 1 的充要条件是 :存在常数 2 ρ XY
P { Y a bX } 1 .
0.3 0.7
0 . 3 0 0 . 7 1 0 . 7
0 . 6 1 0 . 4 2 1 . 4
0 . 9 50 . 7 1 . 4 0.03
c o v (,) X Y E X Y E X E Y
三、 相关系数的意义
1 . 当 ρ 表明 X,Y的线性关系联 XY 较大时
例1 已知 (X,Y)的分布律求Cov(X，Y)
x 0 1 y 1 2 0.15 0.15 0.45 0.25
解: c o v (,) X Y E X Y E X E Y
EX ( Y ) 0 .9 5
x 0 1
EX ( ) EY ( )
y 1 0.15 0.45 0.6
2 0.15 0.25 0.4
3.设X和Y是随机变量，若
E(XkYL)
k, L=1,2,…
存在，
称它为X和Y的k+L阶混合（原点）矩.
k L 4.若 E {[ X E ( X )] [ Y E ( Y )] } 存在，
称它为X和Y的k+L阶混合中心矩.
二、协方差与相关系数的概念及性质
1. 问题的提出
若随机变量 X 和 Y 相ቤተ መጻሕፍቲ ባይዱ独立 ,那么
3 Cov( X X , Y ) Cov( X , Y ) Co X , Y ). 1 2 1 2
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
2 误差rmin (1 XY ) DY , 其 中 XY
C ov(X , Y ) 为相关系数 DX DY
相关系数的性质 相关系数满足|ρXY |≤1且
XY 1 常数a, b, 使P{Y a bX } 1
2 证 由 (1 XY )
rmin 0 知 | XY | 1 DY
则称E ( X EX )(Y EY )为随机变量X 与Y的协方差, 记 为Cov( X ,Y ), 即
Cov( X ,Y ) E ( X EX )(Y EY )
将上式展开, 易得公式
Cov( X ,Y ) E ( XY ) ( EX )( EY )
特别, 当X与Y 相互独立时，有
解 Cov(X ,Y ) XY DX DY 0.5 4 16 4 例3 设 ( X , Y ) 服从参数为 1 ,
2 2 , 12 , 2 , 的
二维正态分布 , 求X 与Y 的相关 系数.
概率统计（ZYH）
例3 解 二维正态分布的密度是
f
exp(h) 2σ1σ 2 1 ρ 2
Cov( X , Y ) Cov( X , Y ) EX , b DX DX
2
Cov( X , Y ) Cov( X , Y ) E Y EY EX X DX DX
Cov(X , Y ) X EX E (Y EY ) DX
( σ1 σ 2 u 2 ) e
t2 2
t 2 u2 2
dtdu
u2 2
σ1σ 2
Hale Waihona Puke 1 e 2dt u
2
1 e 2
d u σ1 σ 2
所以 XY
Cov(X , Y ) σ1σ 2 σ1σ 2 DX DY
1 ( x μ1 )2 ( x μ1 )( y μ2 ) ( y μ2 )2 h 2ρ 2 2 2 2(1 ρ ) σ1 σ1σ 2 σ2
1 1 2 2 1
2 2 2 y μ2 x μ1 x μ1 t u σ ρ σ σ 2 2 1 1 2
||
即，如果随机变量 X 和 Y 是相互独立的 , 则必有
E[(X-EX)(Y-EY)]=0 这意味着当 E[(X-EX)(Y-EY)]≠0 时 , X 与 Y 不相互 独立或存在着一定的关系. 为此, 我们引入下面的定义.
概率统计（ZYH）
定义1 对二维( X ,Y ), 若E ( X EX )(Y EY ) 存在,
5.3 协方差与相关系数
一、协方差的定义与性质
二、随机变量的线性逼近与相关系数
概率统计（ZYH）
一、协方差的定义和性质
在5.2节方差性质4°的证明中
协方差
D( X Y ) DX DY 2 E ( X EX )(Y EY )
D( X ) D(Y )
X , Y独立
0
概率统计（ZYH）
得
C ov(X , Y ) EX a EY bEX EY DX E ( XY ) EXEY C ov(X , Y ) b 2 2 EX ( EX ) DX
误差r的最小值：
rmin E[Y (a bX )]2
a EY
2 ( DX σ12 , DY σ2 )
对于二维正态分布, 参数ρ就是X与Y 的相关系
数, 因而二维正态分布可由X与Y 的期望、方差及
它们的相关系数完全确定. 且有如下关系： 相互独立
概率统计（ZYH）
参数ρ=0
不相关
近似程度好 , 我们自然希望误差 |Y-(a+bX)| 越小越 好.或者更方便地,用误差
r E[Y (a bX )]2
来衡量这种逼近的好坏程度.显然,r的值越小,则表 示逼近程度越好.故应取a,b使误差r的值最小. 下面讨论a,b的取值.
概率统计（ZYH）
参数a,b的确定 (设DX 0, DY 0)
r E[Y (a bX )]2
EY 2 a 2 b2 EX 2 2abEX 2aEY 2bE( XY )
r 2a 2bEX 2 EY a
r 2bEX 2 2aEX 2 E ( XY ) b
r 0, a 令 r 0, b
系) 联系不够紧密. 特别当ρXY = 0 时 rmin 达到最大, X与Y 之间无线性关系可言, 这时称 X与Y 不相关. 一般 相互独立 不相关 地 相关系数ρXY刻画了随机变量X与Y 的线性相关性
概率统计（ZYH）
例2 设随机变量 X 和 Y 的方差分别为 4 和 16, 相关系数为-0.5, 求协方差Cov( X ,Y ).
2
[C ov(X , Y )]2 C ov(X , Y ) 2 DY 1 DY DX DX DY
记 XY
C ov(X , Y ) (称其为X 与Y的相关系数) DX DY
2 则 rmin (1 XY ) DY
概率统计（ZYH）
概率统计（ZYH）
2 误差rmin (1 XY ) DY , 其 中 XY
C ov(X , Y ) 为相关系数 DX DY
性质表明：当|ρXY| 较大时rmin较小, 此时X与Y (就线性关系来说) 联系较紧密. 特别当ρXY=±1时, X与Y 之间以概率1存在着线性关系.
当|ρXY| 较小时 rmin 较大, 此时X与Y (就线性关
Cov( X ,Y ) 0 由协方差的定义亦容易推得协方差的如下性质
概率统计（ZYH）
协方差的性质 Cov( X ,Y ) E ( X EX )(Y EY )
设 a , b 是常数, 则当下所遇期望和协方差存在时, 有 1o Cov(a, X ) 0; 2o Cov( X , X ) DX ; 3o Cov( X ,Y ) Cov(Y , X ); 4o Cov(aX , bY ) abCov( X ,Y ); 5o Cov( X Y , Z ) Cov( X , Z ) Cov(Y , Z ). 例1 设X为一随机变量, 其方差为DX, Y=a+bX,
XY 1 rmin 0 常数a, b, 使E[Y (a bX )]2 0
或D[Y (a bX )] { E[Y (a bX )]}2 0
或D[Y (a bX )] 0且E[Y (a bX )] 0 常数a, b, 使P{Y a bX } 1
1 C ov(X , Y ) 2
1 2
概率统计（ZYH）
t
u
( x μ1 )( y μ2 ) e
h
d xd y σ1σ 2 1 ρ 2
t 2 u2 2
(σ1u)σ 2 ( u t 1 ρ2 ) e
dtdu
0
1 C ov(X , Y ) 2
其中a与b均为常数, 求Cov( X ,Y ). 解 Cov( X ,Y ) Cov(a bX , X )
Cov(a , X ) bCov( X , X ) bDX
概率统计（ZYH）
二、随机变量的线性逼近与相关系数 在解决实际问题时,常常需要用随机变量 X的
线性函数a+bX逼近随机变量Y.为了使这种逼近的