相关函数及协方差函数
协方差及相关系数
所以X与Y不独立.
1/8 0 1/8 2/8 1/8 1/8 1/8 3/8 3/8 2/8 3/8 1
若(X,Y) ~ N(1,2 ,12, 22,)，即(X,Y)概率密度函数为
f
( x,
y)
1
2 1 2
1
2
exp{
1
2(1 2 ) [(
x 1 1
)2
2( x 1 )( y 2 ) ( y 2 )2 ]}
(1) 求 Z 的数学期望和方差. (2) 求 X 与 Z 的相关系数.
解 (1)由E( X ) 1, D( X ) 9, E(Y ) 0, D(Y ) 16.
得 E(Z ) E( X Y ) 1 E( X ) 1 E(Y )
32 3
2
1. 3
D(Z ) D( X ) D(Y ) 2Cov( X ,Y )
注：若Y aX b, 则 a<0时,ρXY=-1
例2 (X,Y)的联合分布为:
求相关系数ρXY,并判断X, Y是否相关,是否独立.
解：
E( X ) xi pi 0
i
E(Y ) y j p. j 0
j
X Y -1 0 1 -1 1/8 1/8 1/8 0 1/8 0 1/8 1 1/8 1/8 1/8
3
1
2
( z5)2
e 18 ,
z
契比雪夫不等式
定理 设随机变量 X 具有数学期望 E(X ) μ,
方差 D( X ) σ2,则对于任意正数ε, 不等式
P{
X
μ
ε}
σ2 ε2
成立.
证明 取连续型随机变量的情况来证明. 设 X 的概率密度为 f ( x),则有
协方差与相关系数
= ρσ 1σ 2
ρ xy =
ρσ 1σ 2 = =ρ σ 1σ 2 D ( X ) D (Y )
Cov ( X , Y )
ρ=0, ,
从而说明二维正态分布随机变量X, 相互独立 从而说明二维正态分布随机变量 ,Y相互独立 相互独立与不相关是等价的. 即X,Y相互独立与不相关是等价的. , 相互独立与不相关是等价的
山东农业大学
概率论与数理统计
主讲人:程述汉 苏本堂
设二维( 例2 设二维(X,Y)随机变量的密度函数为
π π 1 cos( x + y ), 0 ≤ x ≤ , - ≤ y ≤ 0 f ( x, y ) =Y )
1 2 0 π 解 因为 E ( X ) = ∫ ∫ π x cos( x + y )dxdy = ≈ 0.7854, 2 0 -2 4 π 2 1 2 0 2 π π 2 D( X ) = ∫ ∫ π x cos( x + y)dxdy -[ E( X )] = + 2 ≈ 0.1876 2 0 -2 16 2 同理可得 E (Y ) ≈ 0.7854, D(Y ) ≈ 0.1876, 1 π 0 π 2 E ( XY ) = ∫ ∫ π xy × cos( x + y )dxdy1 ≈ -0.5708, 2 0 -2 2 cov( X , Y ) = E ( XY ) - E ( X ) E (Y )
2aE[Y E (Y )][ X E ( X )] + 2 E[Y E (Y )][ E (Y ) aE ( X ) b]
2 aE [ X E ( X )][ E (Y ) aE ( X ) b ]
= D(Y ) + a D( X ) + [ E (Y ) aE ( X ) b] 2a cov( X , Y )
关于协方差、相关系数与相关性的关系
在实际中，人们为什么总是用（线性）相关系数 XY ，而不是用协方差 CovX ,Y 来判断两个随机变量
X 与Y 的线性相关程度呢？关于这个问题，只要我们注意 CovX ,Y EX EX Y EY 与
XY
CovX DX
,Y DY
的单位，就不难发现：
XY
是一个无量纲的量，用它来描述
X
于是 XY 是一个可以用来表征 X ，Y 之间线性关系紧密程度的量，当 XY 较大时，我们通常说 X ，Y
线性相关的程度较好；当 XY 较小时，我们通常说 X ，Y 线性相关的程度较差；当 XY 0 时，称 X ，
Y 不相关（实际上，按照严格的线性相关的定义，只有在 XY 1时，X 与Y 才是线性相关的， XY 1
概率论与数理统计
关于协方差、相关系数与相关性的关系
前言
z
y x
（概率论与数理统计(茆诗松)，Page 147）
高等学校教科书中，关于协方差、相关系数的概念，都是直接给出定义，再由定义导出几个基本
性质，然后是一些关于相关系数的计算或相关性的判断，至于定义这两个量的根据是什么，为什么它
们就是衡量随机变量 X ，Y 的线性相关程度的两把尺子？代数学与概率论中两个变量存在线性关系的
---------------------------------------------------------------------------------------------------------------------------------
Reproduction Forbidden
时二者是线性无关的，不过为了研究 XY 的不同取值下， X ，Y 的关系，我们分为严格线性相关和线 性相关（一定程度）来讨论。）（注意：这里指的是线性不相关，但它们还会存在其他的相关关系，否 则如果什么关系都不存在，那就是 X ，Y 相互独立的情况了。）
第六章 相关函数的估计
6. 相关函数的估计（循环相关）6.1. 相关函数与协方差函数 6.1.1. 自相关函数和自协方差函数1、 自相关和自协方差函数的定义相关函数是随机信号的二阶统计特征，它表示随机信号不同时刻取值的关联程度。
设随机信号)(t x 在时刻j i t t ,的取值是j i x x ,，则自相关函数的定义为ji j i j i j iNn n jn iN j i j i x dxdx t t x x f x xx xNx x E t t R ⎰⎰∑====∞→),;,(1lim ][),(1)()(式中，上角标“（n ）”是样本的序号。
自协方差函数的定义与自相关函数的定义相似，只是先要减掉样本的均值函数再求乘积的数学期望。
亦即：ji j i j i x j x iNn x n jx n iN x j x i j i x dxdx t t x x f m x m xm x m xNm x m x E t t C j i j i j i ⎰⎰∑--=--=--==∞→),;,())(())((1lim )])([(),(1)()(当过程平稳时，);,(),;,(τj i j i j i x x f t t x x f =。
这时自相关函数和自协方差函数只是i j t t -=τ的函数，与j i t t ,的具体取值无关，因此可以记作)(τx R 和)(τx C 。
对于平稳且各态历经的随机信号，又可以取单一样本从时间意义上来求这些统计特性：时间自相关函数为：⎰+-∞→+=22)()(1lim)(TT T x dt t x t x TR ττ时间自协方差函数为：⎰+-∞→-+-=22])(][)([1lim)(TT x x T x dt m t x m t x TC ττ在信号处理过程中，有时会人为地引入复数信号。
此时相应的定义变成][),(*j i j i x x x E t t R =)]()[(),(*j i x j x i j i x m x m x E t t C --=式中，上角标*代表取共轭。
协方差
由相关系数性质(2),ρXY并不是刻画X，Y之间的“一般” 关系，而只是刻画X，Y之间线性相关的程度。虽然X，Y不 相关，但X，Y可以有关系。例如X～U(-1/2,1/2),Y=cosX, 则E(X)=0, Cov( X , Y ) E ( XY ) E ( X ) E (Y )
E ( X cos X )
x 2 y 2 1
x
dxdy
1
1 1
dx
xdy 0
E( X 2 )
0
x 2 f ( x , y )dxdy
1 2 2
x 2 y 2 1
x2
dxdy
1
2
1 dy r cos rdrd 0 4
所以 D(X)=1/4. 同样方法可得 E(Y)=0,D(Y)=1/4.
因为 E( X 2 ) 0, 则 2 2 [ E( XY )]2 4E( X 2 ) E(Y 2 ) 0 ，
即 E( XY ) E( X 2 ) E(Y 2 )
2
等号成立的充要条件是存在t0, 使g(t0)=0, 即：
而 E(Y t0 X )2 D(Y t0 X ) E(Y t0 X ) 0
X Y 则有 E X * E Y * 0, D X * D Y * 1。
令 ：X *
一般地，数学期望为0，方差为1的随机变量的分布 称为标准分布，故ρXY又称为标准协方差。
2．关系公式: (1) 协方差与方差的关系：D(X+Y)=D(X)+D(Y)+2Cov(X，Y) (2) 协方差与数学期望的关系： Cov(X，Y)=E(XY)-E(X)E(Y) 我们常用这个公式计算协 方差。 (3) 若X，Y独立，则Cov(X，Y)=0,但反之不成立。 3．协方差与相关系数的性质 协方差具有下述性质： (1) Cov(X，Y)= Cov(Y，X)； (2) Cov(aX，bY)= abCov(X，Y)；
方差,自相关,互相关,协方差等代表的物理意义
方差，自相关，互相关，协方差等代表的物理意义信号的均值，方差，自相关，互相关，协方差等代表的物理意义2010-05-31 09：201.均值：信号幅度的平均值，物理含义是不是信号的直流电平?2.方差：信号幅度偏离均值的程度，是不是在某种意义上代表了信号振荡的趋势?比如波峰和波谷 3.自相关/互相关：是指信号之间的相似程度吗?那么在时间轴上，又代表了信号的什么特性呢?4.还有协方差?1.在matlab里，协方差的计算是在计算相关之前减去了均值，是不是就是指减去了信号的直流分量，如果信号的均值为0的话，协方差的结果和相关的结果应该是一样的吧。
正弦波交流信号的直流分量为零，但不能说其均值为零，因为均值是衡量随机信号的一个统计参量，而正弦波是确定性信号。
其它概念同样如此。
这些统计参量的精确定义书上都有，建议好好领会。
对随机变量来说，"平均"包含"无限"的含义，任意长的有限样本都不能替代随机信号的整体特点，这是和确定性信号特征描述的主要区别。
3.自相关/互相关：是指信号之间的相似程度吗?那么在时间轴上，又代表了信号的什么特性呢?互相关指2个信号之间的相似程度，时间轴表示"挪"了多少的"距离"，比如一个信号不动，另一个以起点开始"错动"，"挪"到某点时，两个信号的相似程度在函数值上体现，而"挪动"的"距离"在时间轴上体现。
自相关表示信号的周期性--自相关极值点间的距离就是周期；对于随机信号，自相关表示该信号的变化快慢--如果自相关函数平滑，说明变化慢；我知道：对于随机信号，因为不能确知它在每个时刻的值，所以我们从统计平均的观点来认识它。
如果已知其概率分布(包括一维和多维概率分布)，我们就可以认为这个随机信号在统计意义上已充分理解或描述了。
在实际过程中，要得知一个随机过程各点上的随机变量的分布函数并不是很方便，但随机过程的各种统计特征量从各个侧面间接的反映了概率分布特性，所以通过某些特征量就足够描绘这些过程了。
自相关函数与协方差函数的关系
自相关函数与协方差函数的关系
自相关函数和协方差函数都是用于描述随机变量之间的相关性的
工具。
它们都是常用的统计学概念，在很多领域，如金融、经济学、
物理学等都有重要的应用。
自相关函数是用来衡量随机变量自身的相关性，也叫做自相关系数。
它是一个时间序列与其自身的滞后版本之间的相关系数。
如果一
个时间序列的自相关函数显示出明显的周期性，则它被称为具有周期性。
另一方面，协方差函数用于衡量两个不同随机变量之间的相关性。
协方差函数度量两个变量之间的线性关系。
如果两个变量的协方差为正，则它们可能呈现正相关，而如果协方差为负，则它们可能呈负相关。
在这种情况下，变量之间的关系更可能是非线性的。
尽管自相关与协方差之间存在差异，但它们之间确实存在某种程
度的联系。
如果两个随机变量具有线性相关性，则它们的自相关函数
和协方差函数将会具有相同的形状。
然而，如果其相关性是非线性的，则两种函数之间的联系就会劣化。
这就表明了两种函数的差异之处。
自相关函数中忽略其他变量的影响，只考虑变量自身的相关性，而协
方差函数则反映了两个变量的整体相关性。
综上所述，自相关系数主要用于度量并描述时间序列数据自身的
相关性，而协方差系数则主要用于描述两个变量（或多个变量之间）
之间的相关性。
两种函数的具体用途会有所不同，但它们都是经常被
用于分析随机变量之间的相关性的重要工具。
相关函数和协方差的区别
相关函数和协方差的区别摘要：一、引言1.背景介绍2.文章目的二、函数相关性概述1.定义2.性质3.应用场景三、协方差概述1.定义2.性质3.应用场景四、函数相关性与协方差的区别1.概念层面的区别2.计算层面的区别3.实际应用中的区别五、案例分析1.示例数据2.函数相关性分析3.协方差分析六、结论1.函数相关性与协方差的关系2.各自在数据分析中的作用3.注意事项正文：一、引言1.背景介绍在数据分析和统计学领域，相关性是衡量两个变量之间关系强度的一个重要指标。
在众多相关性指标中，函数相关性和协方差较为常见。
本文将对这两个概念进行详细解析，以帮助读者更好地理解它们之间的异同。
2.文章目的通过阐述函数相关性和协方差的概念、性质及应用场景，分析它们之间的区别，并为数据分析工作者提供实用的建议。
二、函数相关性概述1.定义函数相关性是指在多个变量之间存在一种函数关系，其中一个变量的值可以预测另一个变量的值。
具体来说，如果存在一个函数f(x)，使得x与y之间的关系可以表示为y=f(x)，则称x与y具有函数相关性。
2.性质函数相关性具有以下性质：（1）完全相关性：当x与y完全相关时，存在唯一的函数关系；（2）不完全相关性：当x与y不完全相关时，存在多种函数关系；（3）反相关性：当x与y呈反相关时，函数值为负。
3.应用场景函数相关性在数据分析中的应用场景包括：线性回归、非线性回归、时间序列分析等。
（相同适用于协方差部分）三、协方差概述1.定义协方差是指两个随机变量之间的线性依赖程度。
设随机变量x和y的期望分别为μx和μy，方差为σx和σy，则协方差Cov(x, y) = E[(x - μx)(y -μy)]。
2.性质协方差具有以下性质：（1）同向性：当x与y正相关时，Cov(x, y)大于0；（2）反向性：当x与y负相关时，Cov(x, y)小于0；（3）零相关性：当x与y无关时，Cov(x, y)接近于0。
3.应用场景协方差在数据分析中的应用场景包括：线性回归、多元线性回归、协方差分析等。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
自相关函数 的谱密度函数 称为自谱密度函数
互相函数 的谱密度函数 称为互密度函数
注：谱密度函数就是相关函数的傅里叶变换式，反之，相关函数就是谱密度函数的傅里叶反变换式。
著名的维纳-霍甫积分方程
著名的维纳-霍甫积分方程
注：这个方程给出了自相关函数、输入与输出的互相关函数和脉冲响应函数之间的关系。
相关函数及协方差函数
自协方差函数（对于一维随机过程）
互协方差函数（对于二维随机过程）
自相关函数
互相关函数
注：特别的如果 的期望函数为零，则协方差函数和自相关函数相等。如果 随机程的两状态相互独立，则有
注：特别的如果 之一的期望为零，则互协方差等于互相关函数。如果随机过程 相互独立，则 ， 称为互不相关的。相互独立的两个随机过程必是互不相关的。反之如果互相关的不一定相互独立。常用的函数Βιβλιοθήκη 数学期望函数方差函数
协方差函数