第六章 相关函数的估计
《概率论与数理统计教程-朱庆峰》第6章 参数估计 6.6
推导过程如下:
因为S 2 是 2 的无偏估计 ,
根据
(n 1) S 2
2
~ 2 (n 1),
2 (n 1) S 2 2 故 P /2 (n 1) 1 /2 (n 1) 1 , 2
2 (n 1) S 2 ( n 1) S 2 即 P 2 2 1 , /2 (n 1) 1- /2 (n 1)
ˆ | } 1 , 其中 0, 0 1 P{|
ˆ ˆ } 1 即 P{
随机区间 [ , ] 的置信区间
一、区间估计基本概念
1. 置信区间的定义 设总体 的概率函数 f ( x; ) 含有一个未知参 数 , 对于给定值 (0 1).若由样本1 , 2 , , n
3. 求置信区间的一般步骤(共3步) (1) 寻求一个样本 1 , 2 , , n 的函数: Z Z (1 , 2 , , n ; ) 其中仅包含待估参数 , 并且Z的分布已知 且不依赖于任何未知参数(包括 ). (2) 对于给定的置信度1 , 决定出两个常数a, b, 使P{a Z (1 , 2 , , n 1 , 2 , , n ; ) b 得到等价的 ˆ ˆ , 其中 ˆ ( , , , ), 不等式 1 2 1 1 2 n ˆ ( , , , )都是统计量, 那么[ , ]就是
2 1 2 n
即 P u1 / 2 u1 / 2 1 , n n
于是得的一个置信度为 1 的置信区间
u1 / 2 . 这样的置信区间常写成 n
2.3均值、方差、自相关函数的估计-PPT文档
解:(1)数学期望
2
1 1 ( t ) E { x ( t ) E [ x ( t ) ] } { x ( t ) E [ x ( tfd ) ] } ( ) [ s i n ( t ) 0 ]d 22
(3)自相关函数
0 0
2.3.1 均值的估计
将N个样点数据的算术平均值作为均值的 估计 ，即 1 N 1 ˆ x x(n) （2.3.1） m N n 0
mˆ
利用前面介绍的评价指标，可以对该点估计进行质量评价
估计的均值：
（2.3.2）
N 1 N 1 N 1 1 1 1 ˆ E [ m ] E [ x ( n ) ] E [ x ( n ) ] m m x x x N N N n 0 n 0 n 0
估计的方差为：
v a r ( ) E { [ E ( ) ]}
将式（2..6）代入上式，得
22 v a r ( ) E { [ x ]} ^ 2 x ^ 2 x
^ 2 x
^ 2 x
^ 2 2 x
时 ， v a r ( ) 0 可以证明，当 N 所以式（2.3.5）对方差的估计是无偏的一致估计 事实上，因为式（2.3.5）的均值也只能来自估计，所以方差 的估计往往不是式（2.3.5）而是
2
2
1 R ( tt , ) E [ x ( tx ) ( t ) ] [ x ( tx ) ( t ) ] f ( ) d s i n ( t ) s i n ( t ) d 12 1 2 1 2 0 1 0 1 0 0 2 2 2 1 1 1 [ c o s ( t t )c o s ( t t 2 ) ] d c o s ( t td ) c o s ( t t ) 01 2 0 1 0 2 01 2 01 2 0 0 4 4 2
自相关函数的估计
k 0
x[k ]x[k n ]
n N 1
2、自相关函数估计的计算
方法二：按照卷积和计算自相关函数的估计
自相关函数的估计由定义：
1 ˆ R x [ n] N
N 1 k 0
x[k ]x[k n]
可以得到：
1 ˆ R x [n] x[n] * x[n] N
——卷积和
2、自相关函数估计的计算
N 1 n
1 ˆ Rx [n] N
N 1n 1 ˆ [n] R x[k ]x[k n] x N k 0 ( N 1) n 0 N 1 1 ˆ x [n ] R x[k ]x[k n] N k n 1 N 1n x[l ]x[l n] N l 0
N，偏差、方差趋于零，是一致估计。 N 固定时，n N，偏差、方差较大。
2、自相关函数估计的计算
方法一：按照定义计算自相关函数的估计 1 ˆ R x [ n] N
x[k]
N 1 k 0
x[k ]x[k n]
0 n N 1
N1
0 x[k+n], n 0 n
N1n x[k+n], n 0 n N1n
1 ˆ R x [n] x[ n] * x[n] N
1 {1, 0, 2, 0, 1} 3
结论：
自相关函数具有偶对称性， 且 Rx [0] Rx [n]
例1：自相关函数估计的计算 已知平稳各态遍历的实随机序列X[k]的单一样本 的N个观测值为x[k]={1, 0，1}，试计算该随机序 列的自相关函数估计。 解： 方法三：利用DFT计算 1.对x[k]补零形成L点序列：
已知平稳各态遍历随机序列单一样本的N个观测值，其自 相关函数估计的计算方法有：
概率论与数理统计第六章测试题
第6章 参数估计选择题1．设n X X X ,...,,21是来自正态总体X 的简单随机样本，X 的分布函数F(x;θ)中含未知参数，则（A ）用矩估计法和最大似然估计法求出的θ的估计量相同 (B) 用矩估计法和最大似然估计法求出的θ的估计量不同 （C ）用矩估计法和最大似然估计法求出的θ的估计量不一定相同 (D) 用最大似然估计法求出的θ的估计量是唯一的2．设n X X X ,...,,21是来自正态总体X 的简单随机样本，EX=μ，DX=σ2，其中μ，σ2均为未知参数，X =1ˆμ，12ˆX =μ，下面结论哪个是错误的。
（A ）X =1ˆμ是μ的无偏估计 (B) 12ˆX =μ是μ的无偏估计 （C ）X =1ˆμ比12ˆX =μ 有效 (D) ∑=-ni i X n 12)(1μ是σ2的最大似然估计量 3．设n X X X ,...,,21是来自正态分布总体N(μ,σ2)的简单随机样本，其中数学期望μ已知，则总体方差σ2的最大似然估计量是（A ） ∑=--n i i X X n 12)(11 (B) ∑=-ni i X X n 12)(1 （C ） ∑=--n i i X n 12)(11μ (D) ∑=-n i i X n 12)(1μ 4．已知总体X 在区间[0,θ]上均匀分布，其中θ是未知参数，设n X X X ,...,,21是来自X 的简单随机样本，X 是样本均值，},...,max {1)(n n X X X = 是最大观测值，则下列选项错误的是 （A ）)(n X 是θ的最大似然估计量 (B) )(n X 是θ的无偏估计量 （C ）X 2是θ的矩估计量 (D) X 2是θ的无偏估计量5． 设总体X~N(μ1,σ2)，总体Y~N(μ2,σ2)，m X X X ,...,,21和n Y Y Y ,...,,21分别是来自总体X和Y 的简单随机样本，样本方差分别为2X S 与2Y S ，则σ2的无偏估计量是（A ）22YX S S + (B) 22)1()1(Y X S n S m -+-（C ）222-++n m S S Y X (D) 2)1()1(22-+-+-n m S n S m Y X6． 设X 是从总体X 中取出的简单随机样本n X X X ,...,,21的样本均值，则X 是μ的矩估计，如果（A ）X~N(μ,σ2) (B) X 服从参数为μ的指数分布 （C ）P （X=m ）=μ(1-μ)m-1，m=1,2,… (D) X 服从[0,μ]上的均匀分布 填空题1．假设总体X 服从参数为λ的泊松分布，n X X X ,...,,21是取自总体X 的简单随机样本，其均值、方差分别为X ，S 2，如果2)32(ˆS a X a -+=λ为λ的无偏估计，则a= 。
概率论与数理统计 第六章 参数估计
解此方程即可.值得注意的是,由极值的必要条件知极大似 然估计一定是似然方程的解.但似然方程组的解未必是极 大似然估计,严格地讲,对似然方程组的解要经过验证才能 确定是否是极大似然估计.
概率论与数理统计
例6 设总体 X 服从指数分布,它的密度为
x 1 −θ e , x>0 p ( x;θ ) = θ 0, x≤0
概率论与数理统计
例6.1.1 对某型号的20辆汽车记录其每5L汽油的 行驶里程(公里),观测数据如下: 29.8 27.6 28.3 27.9 30.1 28.7 29.9 28.0 27.9 28.7 28.4 27.2 29.5 28.5 28.0 30.0 29.1 29.8 29.6 26.9 试求总体均值、方差和中位数的估计值.
1 n θˆ = ∑ X i = X n i =1
是来自总体 P(λ ) 的一个子样, 例7 设 X 1，X 2， ，X n） （ ⋯ 求λ 的极大似然估计量. 的观测值. （ ⋯ （ ⋯ 解: 设 x1，x2， ，xn）为子样 X 1，X 2， ，X n） λ x −λ ∵ P( X = x) = e , x! 所以,似然函数为 n n λ x − λ − nλ n λ x L( x; λ ) = ∏ P(X =xi ) = ∏ e =e ∏
求极大似然估计的方法
概率论与数理统计
L 1. 设似然函数 （x;θ）为θ 的连续函数,且关于θ 各分量 的偏导数存在因为lnL与L的最大点相同,而lnL比L使用方便, 所以常常求lnL的最大点.
设θ 是k维的，Θ是R k中的开区域，则由极值的必要条件有
∂ ln L( x,θ ) = 0, i = 1, 2,⋯ , k . ∂θ i
则P( A)的矩估计量为X .
第六章 相关函数的估计
6. 相关函数的估计（循环相关）6.1. 相关函数与协方差函数 6.1.1. 自相关函数和自协方差函数1、 自相关和自协方差函数的定义相关函数是随机信号的二阶统计特征，它表示随机信号不同时刻取值的关联程度。
设随机信号)(t x 在时刻j i t t ,的取值是j i x x ,，则自相关函数的定义为ji j i j i j iNn n jn iN j i j i x dxdx t t x x f x xx xNx x E t t R ⎰⎰∑====∞→),;,(1lim ][),(1)()(式中，上角标“（n ）”是样本的序号。
自协方差函数的定义与自相关函数的定义相似，只是先要减掉样本的均值函数再求乘积的数学期望。
亦即：ji j i j i x j x iNn x n jx n iN x j x i j i x dxdx t t x x f m x m xm x m xNm x m x E t t C j i j i j i ⎰⎰∑--=--=--==∞→),;,())(())((1lim )])([(),(1)()(当过程平稳时，);,(),;,(τj i j i j i x x f t t x x f =。
这时自相关函数和自协方差函数只是i j t t -=τ的函数，与j i t t ,的具体取值无关，因此可以记作)(τx R 和)(τx C 。
对于平稳且各态历经的随机信号，又可以取单一样本从时间意义上来求这些统计特性：时间自相关函数为：⎰+-∞→+=22)()(1lim)(TT T x dt t x t x TR ττ时间自协方差函数为：⎰+-∞→-+-=22])(][)([1lim)(TT x x T x dt m t x m t x TC ττ在信号处理过程中，有时会人为地引入复数信号。
此时相应的定义变成][),(*j i j i x x x E t t R =)]()[(),(*j i x j x i j i x m x m x E t t C --=式中，上角标*代表取共轭。
统计学第六章课后题及答案解析
第六章一、单项选择题1．下面的函数关系是( )A现代化水平与劳动生产率 B圆周的长度决定于它的半径C家庭的收入和消费的关系 D亩产量与施肥量2．相关系数r的取值范围( )A -∞< r <+∞B -1≤r≤+1C -1< r < +1D 0≤r≤+13．年劳动生产率x(干元)和工人工资y=10+70x，这意味着年劳动生产率每提高1千元时，工人工资平均( )A增加70元 B减少70元 C增加80元 D减少80元4．若要证明两变量之间线性相关程度高，则计算出的相关系数应接近于( )A +1B -1C 0.5D 15．回归系数和相关系数的符号是一致的，其符号均可用来判断现象( )A线性相关还是非线性相关 B正相关还是负相关C完全相关还是不完全相关 D单相关还是复相关6．某校经济管理类的学生学习统计学的时间(x)与考试成绩(y)之间建立线性回归方程ŷ=a+bx。
经计算，方程为ŷ=200—0.8x，该方程参数的计算( )A a值是明显不对的B b值是明显不对的C a值和b值都是不对的D a值和b值都是正确的7．在线性相关的条件下，自变量的均方差为2，因变量均方差为5，而相关系数为0.8时，则其回归系数为：( )A 8B 0.32C 2D 12．58．进行相关分析，要求相关的两个变量( )A都是随机的 B都不是随机的C一个是随机的，一个不是随机的 D随机或不随机都可以9．下列关系中，属于正相关关系的有( )A合理限度内，施肥量和平均单产量之间的关系B产品产量与单位产品成本之间的关系C商品的流通费用与销售利润之间的关系D流通费用率与商品销售量之间的关系10．相关分析是研究( )A变量之间的数量关系 B变量之间的变动关系C变量之间的相互关系的密切程度 D变量之间的因果关系11．在回归直线y c=a+bx，b<0，则x与y之间的相关系数 ( )A r=0B r=lC 0< r<1D -1<r <012．当相关系数r=0时，表明( )A现象之间完全无关 B相关程度较小C现象之间完全相关 D无直线相关关系13．下列现象的相关密切程度最高的是( )A某商店的职工人数与商品销售额之间的相关系数0.87B流通费用水平与利润率之间的相关系数为-0.94C商品销售额与利润率之间的相关系数为0.51D商品销售额与流通费用水平的相关系数为-0.8114．估计标准误差是反映( )A平均数代表性的指标 B相关关系的指标C回归直线方程的代表性指标 D序时平均数代表性指标二、多项选择题1．下列哪些现象之间的关系为相关关系( )A家庭收入与消费支出关系 B圆的面积与它的半径关系C广告支出与商品销售额关系D商品价格一定，商品销售与额商品销售量关系2．相关系数表明两个变量之间的( )A因果关系 C变异程度 D相关方向 E相关的密切程度3．对于一元线性回归分析来说( )A两变量之间必须明确哪个是自变量，哪个是因变量B回归方程是据以利用自变量的给定值来估计和预测因变量的平均可能值C可能存在着y依x和x依y的两个回归方程D回归系数只有正号4．可用来判断现象线性相关方向的指标有( )A相关系数 B回归系数 C回归方程参数a D估计标准误5．单位成本(元)依产量(千件)变化的回归方程为y c=78- 2x，这表示( ) A产量为1000件时，单位成本76元B产量为1000件时，单位成本78元C产量每增加1000件时，单位成本下降2元D产量每增加1000件时，单位成本下降78元6．估计标准误的作用是表明( )A样本的变异程度 B回归方程的代表性C估计值与实际值的平均误差 D样本指标的代表性7．销售额与流通费用率，在一定条件下，存在相关关系，这种相关关系属于( ) A完全相关 B单相关 C负相关 D复相关8．在直线相关和回归分析中( )A据同一资料，相关系数只能计算一个B据同一资料，相关系数可以计算两个C据同一资料，回归方程只能配合一个D据同一资料，回归方程随自变量与因变量的确定不同，可能配合两个9．相关系数r的数值( )A可为正值 B可为负值 C可大于1 D可等于-110．从变量之间相互关系的表现形式看，相关关系可分为( )A正相关 B负相关 C直线相关 D曲线相关11．确定直线回归方程必须满足的条件是( )A现象间确实存在数量上的相互依存关系B相关系数r必须等于1C y与x必须同方向变化D现象间存在着较密切的直线相关关系12．当两个现象完全相关时，下列统计指标值可能为( )A r=1B r=0C r=-1D S y=013．在直线回归分析中，确定直线回归方程的两个变量必须是( )A一个自变量，一个因变量 B均为随机变量C对等关系 D一个是随机变量，一个是可控制变量14．配合直线回归方程是为了( )A确定两个变量之间的变动关系 B用因变量推算自变量C用自变量推算因变量 D两个变量都是随机的15．在直线回归方程中( )A在两个变量中须确定自变量和因变量 B一个回归方程只能作一种推算C要求自变量是给定的，而因变量是随机的。
概率论与数理统计第6章参数区间估计2,3节
n
E(X
k
)
E(X
k)
i1
i1
二、有效性
未知参数 的无偏估计量不是唯一的.
设 ^1 和 ^2 都是参数 的无偏估计量,
θˆ 1
θˆ 2
集中
分散
蓝色是采用估^ 计量 1 , 用 14 个样本值得到的 14 个估计值. 紫色是采用估^ 计量 2 , 用 14 个样本值得到的 14 个估计值.
若limD(ˆ)0， 则ˆ是的一致估 . 计量 n
回顾例子.设总体X的概率密度为
f(x)6x3 (x),0x;
0, 其他
X1, X2,…, Xn 是取自总体X 的简单随机样本, (1) 求的矩估计量 ˆ；
(2) 求ˆ的方差D(ˆ).
解：矩估计 ˆ量 2X. D(ˆ)4D(X)4D(X)2
若滚珠直径服从正态分布X ~ N( , 2), 并且已知 = 0.16(mm),求滚珠直径均值的置信水平为95%
的置信区间.
解：由上面求解的置信水平为1- 的置信区间
Xσn 0 uα/,2 Xσn 0 uα/2
已 n 知 1,0 0 0 .1,6 0 .0,5 x110i110xi 14.92,
若进行n次独立重复抽样，得到n个样本观测值,
每个样本观测 个值 随确 机(定 ˆ1区 ,ˆ2一 )间 .那么
每个区间的 可真 能 ， 或 值 包不 含包 的含 真 , 值
根据伯努利大数定理, 在这n个随机区间中,
包含 真值1 的 0(1 0 约 )% 占 ,不包含 10 的 % 0. 约
便得 k的 到 最大似 ˆk(X 1,然 X 2, ,估 X n).计
第二节 判别估计量好坏的标准
概率论与数理统计第六章测试题
第6章 参数估计选择题1．设n X X X ,...,,21是来自正态总体X 的简单随机样本，X 的分布函数F(x;θ)中含未知参数，则（A ）用矩估计法和最大似然估计法求出的θ的估计量相同 (B) 用矩估计法和最大似然估计法求出的θ的估计量不同 （C ）用矩估计法和最大似然估计法求出的θ的估计量不一定相同 (D) 用最大似然估计法求出的θ的估计量是唯一的2．设n X X X ,...,,21是来自正态总体X 的简单随机样本，EX=μ，DX=σ2，其中μ，σ2均为未知参数，X =1ˆμ，12ˆX =μ，下面结论哪个是错误的。
（A ）X =1ˆμ是μ的无偏估计 (B) 12ˆX =μ是μ的无偏估计 （C ）X =1ˆμ比12ˆX =μ 有效 (D) ∑=-ni i X n 12)(1μ是σ2的最大似然估计量 3．设n X X X ,...,,21是来自正态分布总体N(μ,σ2)的简单随机样本，其中数学期望μ已知，则总体方差σ2 的最大似然估计量是（A ） ∑=--n i i X X n 12)(11 (B) ∑=-ni i X X n 12)(1 （C ） ∑=--n i i X n 12)(11μ (D) ∑=-n i i X n 12)(1μ 4．已知总体X 在区间[0,θ]上均匀分布，其中θ是未知参数，设n X X X ,...,,21是来自X 的简单随机样本，X 是样本均值，},...,max {1)(n n X X X = 是最大观测值，则下列选项错误的是 （A ）)(n X 是θ的最大似然估计量 (B) )(n X 是θ的无偏估计量 （C ）X 2是θ的矩估计量 (D) X 2是θ的无偏估计量5． 设总体X~N(μ1,σ2)，总体Y~N(μ2,σ2)，m X X X ,...,,21和n Y Y Y ,...,,21分别是来自总体X和Y 的简单随机样本，样本方差分别为2X S 与2Y S ，则σ2 的无偏估计量是 （A ）22YX S S + (B) 22)1()1(Y X S n S m -+-（C ）222-++n m S S YX (D) 2)1()1(22-+-+-n m S n S m Y X6． 设X 是从总体X 中取出的简单随机样本n X X X ,...,,21的样本均值，则X 是μ的矩估计，如果（A ）X~N(μ,σ2) (B) X 服从参数为μ的指数分布 （C ）P （X=m ）=μ(1-μ)m-1，m=1,2,… (D) X 服从[0,μ]上的均匀分布 填空题1．假设总体X 服从参数为λ的泊松分布，n X X X ,...,,21是取自总体X 的简单随机样本，其均值、方差分别为X ，S 2 ，如果2)32(ˆS a X a -+=λ为λ的无偏估计，则a= 。
概率论与数理统计：m6-参数估计5
2 )的 一 个 样 本 。
我 们 知 道S 2
1 n1
n i 1
(Xi
X
)2是
2的 一 个 无 偏 估 计
并 且 知道 样 本 函 数： 2
(n 1)S 2
2
~
2 (n 1)
对于给定的1 ，查 2分布表，得临界值1与2，使得：
P{1 2 2 } 1 ，
返回主目录
第六章 参数估计
n
1),
其中，n是样本容量，n-1是表中自由度；由此得：
P{
2 1-
2
(
n
1)
(n 1)S 2
2
2
(n
1)}
1
2
即
(n 1)S 2
P{
2
(n
1)
2
2
(n
2 1-
1)S (n
2
2
1)
}
1
于是， 2的一个置信水平为1 下的置信区间为：
(n 1)S 2 (n 1)S 2
(
2
(n
2
1)
则 X ~ N (, 2 ), 未 知 方 差 2，
则 的一个置信水平为1 下的置信区间为：
S
S
(X - t (n 1) , X t (n 1) )
2
n
2
n
返回主目录
第六章 参数估计
已知n 7, 0.05.
由样本值算得： x 112.8, S 2 1.29.
查t(6,0.025)得临界值z 2.447。由此得置信区间： 2
设X
1
,,
X
为
n
来
自
总
体X
~
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
6. 相关函数的估计（循环相关）6.1. 相关函数与协方差函数 6.1.1. 自相关函数和自协方差函数1、 自相关和自协方差函数的定义相关函数是随机信号的二阶统计特征，它表示随机信号不同时刻取值的关联程度。
设随机信号)(t x 在时刻j i t t ,的取值是j i x x ,，则自相关函数的定义为ji j i j i j iNn n jn iN j i j i x dxdx t t x x f x xx xNx x E t t R ⎰⎰∑====∞→),;,(1lim ][),(1)()(式中，上角标“（n ）”是样本的序号。
自协方差函数的定义与自相关函数的定义相似，只是先要减掉样本的均值函数再求乘积的数学期望。
亦即：ji j i j i x j x iNn x n jx n iN x j x i j i x dxdx t t x x f m x m xm x m xNm x m x E t t C j i j i j i ⎰⎰∑--=--=--==∞→),;,())(())((1lim )])([(),(1)()(当过程平稳时，);,(),;,(τj i j i j i x x f t t x x f =。
这时自相关函数和自协方差函数只是i j t t -=τ的函数，与j i t t ,的具体取值无关，因此可以记作)(τx R 和)(τx C 。
对于平稳且各态历经的随机信号，又可以取单一样本从时间意义上来求这些统计特性：时间自相关函数为：⎰+-∞→+=22)()(1lim)(TT T x dt t x t x TR ττ时间自协方差函数为：⎰+-∞→-+-=22])(][)([1lim)(TT x x T x dt m t x m t x TC ττ在信号处理过程中，有时会人为地引入复数信号。
此时相应的定义变成][),(*j i j i x x x E t t R =)]()[(),(*j i x j x i j i x m x m x E t t C --=式中，上角标*代表取共轭。
2、 自相关和自协方差函数的性质自相关和自协方差函数的主要性质如下：（1） 对称性当)(t x 时实函数时，)(τx R 和)(τx C 是实偶函数。
即)()(),()()()(),()(**ττττττττx x x x x x x x C C R R C C R R =-=-==当)(t x 时复值函数时，)(τx R 和)(τx C 具有共轭对称性。
即)()(),()(**ττττx x x x C C R R =-=-（2） 极限值)(,)()0(,)0(2=∞=∞==x x x xx x x C m R C D R σ（3） 不等式 当0≠τ时，)()0(),()0(ττx x x x C C R R ≥≥因此，)0()()(x x x R R ττρ=是一个小于等于1的无量纲量，称为自相关系数。
（4） 自相关和自协方差函数之间的关系一般情况下：j i x x j i x j i x m m t t C t t R +=),(),(平稳情况下：2)()(x x x m C R +=ττ（5） 非负定性当)(t x 是实函数时，取一组离散时刻N t t t ,,,21 和一组对应的任意实数N k k k ,,,21 ，则必有0)(11≥-∑∑==j Ni Nj i j i xk k t t R当)(t x 是复值函数时，相应的系数也是复值时，则有0)(*11≥-∑∑==j Ni Nj i j i xk k t t R6.1.2. 互相关函数和互协方差函数1、 互相关和互协方差函数的定义自相关函数和自协方差函数用来描述是单一随机信号的统计特征。
对于两个不同的随机信号则要采用互相关函数和互协方差函数来表示两个随机信号的不同时刻取值的关联程度。
设随机信号)(t x ,)(t y ，在时刻j i t t ,的取值是j i y x ,，则互相关函数的定义为ji j i j i j iNn n jn iN j i j i xy dydx t t y x f y xy xNy x E t t R ⎰⎰∑====∞→),;,(1lim ][),(1)()(式中，上角标“（n ）”是样本的序号。
互协方差函数的定义与互相关函数的定义相似，只是先要减掉样本的均值函数再求乘积的数学期望。
亦即：ji j i j i y j x iNn y n jx n iN y j x i j i xy dydx t t y x f m y m xm y m xNm y m x E t t C j i j i j i ⎰⎰∑--=--=--==∞→),;,())(())((1lim )])([(),(1)()(当过程平稳时，);,(),;,(τj i j i j i y x f t t y x f =。
这时互相关函数和互协方差函数只是i j t t -=τ的函数，与j i t t ,的具体取值无关，因此可以记作)(τxy R 和)(τxy C 。
对于平稳且各态历经的随机信号，又可以取单一样本从时间意义上来求这些统计特性：时间互相关函数为：⎰+-∞→+=22)()(1lim)(TT T xy dt t y t x TR ττ时间互协方差函数为：⎰+-∞→-+-=22])(][)([1lim)(TT y x T xy dt m t y m t x TC ττ在信号处理过程中，有时会人为地引入复数信号。
此时相应的定义变成][),(*j i j i y y x E t t R =)]()[(),(*j i y j x i j i xy m y m x E t t C --=式中，上角标*代表取共轭。
2、 互相关和互协方差函数的性质互相关和互协方差函数的主要性质如下：（1） 对称性当)(t x 时实函数时，)(τxy R 和)(τxy C 是实偶函数。
即)()(),()()()(),()(**ττττττττxy xy xy xy xy xy xy xy C C R R C C R R =-=-==当)(t x 时复值函数时，)(τxy R 和)(τxy C 具有共轭对称性。
即)()(),()(**ττττxy xy xy xy C C R R =-=-（2） 极限值)(,)(=∞=∞xy y x xy C m m R（3） 不等式[])0()0(21)(,)0()0()(y xxy y x xy R RR R R R +≤≤ττ（4） 互相关与互协方差之间的关系一般情况下：j i y x j i xy j i xy m m t t C t t R +=),(),(平稳情况下：y x xy xy m m C R +=)()(ττ6.2. 相关函数的直接估计(线性相关)1. 线性相关自相关函数的直接估计是根据定义，但是采用离散时间样本来计算的。
根据定义有：⎪⎭⎫ ⎝⎛=+=∑⎰-=+∞→+-∞→10221lim)()()(1lim)(N n m n n N x TT T x x x N m R dtt x t x TR ττ因此，当有限的数据点数N ，自相关函数的估计公式是：,2,1,0,1)(ˆ10±±=⎪⎪⎭⎫⎝⎛=∑--=+m x x N m R m N n m n n x注意，上式中的求和项总数不是N ，而是m N -。
因为当1--=m N n 时，1-=+N m n ，此时mn x +已经到达了N 点数据序列的边沿上。
2. 估计偏差自相关函数的直接估计的偏差：[][])(1)(ˆ10m R Nm N x x E N m R E x m N n m n n x -=⎪⎪⎭⎫ ⎝⎛=∑--=+可见，直接根据定义给出的自相关函数估计是有偏的，但是渐进无偏的。
根据这一估计偏差公式，还可以看出：延迟值m 俞大，估计的偏差也俞大。
这是因为当数据序列的总点数N 有限时，m 俞大，求和时可利用的数据俞少。
作为特例，当N m =，[]0)(ˆ=m R E x，此时偏差与相关函数值相等。
为了使估计无偏，可以对估计公式修正，按照下式进行无偏修正估计：,2,1,0,1)(ˆ1±±=⎪⎪⎭⎫⎝⎛-=∑--=+m x x m N m R m N n m n n x3. 估计方差自相关函数的方差特性分析要设计到随机过程的四阶矩,推导比较困难。
这里，给出对于高斯型随机过程，自相关函数有偏估计的方差公式：[][])()()(11)(ˆ21)1(n m R n m R n R N n m N m R Var x x x m N m N n x-++⎪⎪⎭⎫ ⎝⎛++=∑-----= 自相关函数无偏修正估计的方差公式：[]()[])()()(1)(ˆ21)1(2n m R n m R n R N n m mNNm R Var x x xm N m N n x-++⎪⎪⎭⎫ ⎝⎛++-=∑-----= 从上式可以看到，当∞→N 时，上述两种估计的方差都趋于零。
可以证明，即使随机过程不是高斯分布的，这一结论也成立。
不过，当数据序列点数N 有限，并且N m →时，无偏估计式的估计方差太大，远大于有偏估计式的估计方差，所以，实际应用中多采用有偏估计式。
实际工程中相关函数的应用价值，主要是根据相关函数的主峰值确定两个信号之间的时延值，这也是采用有偏估计式的另一个原因。
如果不考虑估计的计算工作量，采用直接估计算法，已经可以解决自相关函数的估计问题。
一般地，要求m N >>，通常要求样本点数N 为最大时延值m 的20倍以上。
在实际应用中，通常采用相关方法，确定两个信号间的时延值，为了达到较高的时间分辨率，采样频率较高，最大延时值m 一般较大，从而N 就很大，按照估计式就需要2/2N 次乘法运算。
例如时延点数取1024点，则数据样本点数至少要达到2万点，估计一次相关函数，至少要进行2万次乘法运算。
由于计算量非常大，不能满足实时估计的要求。
4. 直接估计算法需要说明的是，上述估计公式是理论推导过程，在计算机上实施的实际估计算法公式是：自相关函数的估计式：)1(,2,1,0,1)(ˆ10-±±±=⎪⎪⎭⎫⎝⎛=∑--=+N m x x N m R m N n m n n x如果先减掉信号的均值再进行计算，就得到自协方差函数的估计：)1(,,2,1,0,1)(ˆ10-±±±=⎪⎪⎭⎫⎝⎛=∑--=+N m x x N m C m N n m n n x互相关函数和互协方差函数也可以用类似算法来估计，只要把自相关或自协方差函数估计式中的一个信号用n y 代替即可。