多元线性回归方程的检验、预测

（i=1,2…k）
注意：一元线性回归中，t检验与F检验一致 一方面，t检验与F检验都是对相同的原假设 H0：1=0 进行检验; 另一方面，两个统计量之间有如下关系：
ˆ 2 x2 1 i F 2 2 ei ( n 2) e i ( n 2)
2 e i 2 ˆ y i
ˆ i2 ESS / RSS y
如果这个比值较大，则X的联合体对Y的解 释程度高，可认为总体存在线性关系，反之总体 上可能不存在线性关系。
因此,可通过该比值的大小对总体线性关系 进行推断。 根据数理统计学中的知识，在原假设H0成立 的条件下，统计量
ESS / k F RSS /( n k 1)
知识体系
多元回归的拟合优度检验
总离差平方和的分解
则
TSS (Yi Y ) 2 ˆ ) (Y ˆ Y )) 2 ((Yi Y i i ˆ ) 2 2 (Y Y ˆ )(Y ˆ Y ) (Y ˆ Y )2 (Yi Y i i i i i
服从自由度为(k , n-k-1)的F分布。
方程总体线性的显著性检验
H0： 0=1=2= =k=0 H1： j不全为0
给定显著性水平，可得到临界值F(k,n-k1)，由样本求出统计量F的数值，通过
F F(k,n-k-1) 或 F≤F(k,n-k-1)
来拒绝或接受原假设H0，以判定原方程总体 上的线性关系是否显著成立。
案例分析
零阶齐次性，当所有商品和消费者货币支出总 额按同一比例变动时，需求量保持不变
Q f ( X / P0 , P1 / P0 )
(**)
为了进行比较，将同时估计（*）式与（**）式。
案例分析
首先,确定具体的函数形式 根据恩格尔定律，居民对食品的消费支出与居 民的总支出间呈幂函数的变化关系: 对数变换:
2 e i (n k -1)
*赤池信息准则和施瓦茨准则 为了比较所含解释变量个数不同的多元 回归模型的拟合优度，常用的标准还有: 赤池信息准则（Akaike information criterion, AIC） e e 2( k 1) AIC ln n n 施瓦茨准则（Schwarz criterion，SC）
关于拟合优度检验与方程显著性检验关系的讨论
由
RSS /( n k 1) R 1 与 TSS /( n 1)
2
2
ESS / k F RSS /( n k 1)
R2 / k F (1 R2 ) / (n k 1)
n 1 可推出： R 1 n k 1 kF
t
*
ˆ j j ˆ) SE ( j
^

ˆ j ˆ c jj
~ t (n k 1)
ˆ 2 ei2 (n k 1)
变量的显著性的假设检验（t 检验）
设计原假设与备择假设： H0：i=0 H1：i0 给定显著性水平，可得到临界值t/2(n-k-1)， 由样本求出统计量t的数值，通过 |t| t/2(n-k-1) 或 |t|≤t/2(n-k-1) 来拒绝或接受原假设H0，从而判定对应的解释变 量是否应包括在模型中。
对Y没有显著影响。
方程总体线性的显著性检验 （F 检验）
方程的显著性检验，旨在对模型中被解释变量 与解释变量之间的线性关系在总体上是否显著成立 作出推断。 即检验模型
Yi=0+1X1i+2X2i+ +kXki+i i=1,2, ,n
中的参数j是否显著不为0。
方差分析表
总变差
TSS=
以cii表示矩阵(X’X)-1 主对角线上的第i个元素， 于是参数估计量的方差为： 2 ˆ Var ( ) c
i ii
其中2为随机误差项的方差，在实际计算 时，用它的估计量代替: 2 e e e i 2 ˆ n k 1 n k 1
变量的显著性的假设检验（t 检验）
或
变量的显著性的假设检验（t 检验）
方程的总体线性关系显著每个解释变量对被 解释变量的影响都是显著的。因此，必须对每个 解释变量进行显著性检验，以决定是否作为解释 变量被保留在模型中。
这一检验是由对变量的 t 检验完成的。
变量的显著性的假设检验（t 检验）
由于
ˆ ) 2 ( XX) 1 Cov (β
对各回归系数假设检验的作法
即认为 j 所对应的解释变量X j 对被解释变量Y的影响不显
即认为 j 所对应的解释变量 X j 对被解释变量Y的影响是
1 建立中国城镇居民食品消费需求函数模型。 根据需求理论，居民对食品的消费需求函数 大致为: （*) Q f ( X , P1 , P0 ) Q:居民对食品的需求量，X：消费者的消费支出 总额 P1：食品价格指数，P0：居民消费价格总指数。
ˆ2 1 2 2 e ( n 2 ) x i i
ˆ 1 ˆ 1 2 ( n 2) x i
2
e
1 t2 n 2 xi2
2 i
2
24
给定显著性水平α，查t分布表的临界值为 t 2 (n k -1)
14
方程总体线性的显著性检验
可提出如下原假设与备择假设：
H0： 0=1=2= =k=0
H1： j不全为0
F检验的思想来自于总离差平方和的分解式： TSS=ESS+RSS
2 ˆ ESS y 由于回归平方和 i
是解释变量 X 的联合体对被解
2 e i
释变量 Y 的线性作用的结果，考虑比值
自由度
k n-k-1 n-1
方 差
2 ˆ ( Y Y ) /k i
2 ˆ ( Y Y ) i i / (n k -1)
2 ( Y Y ) i
2 ( Y Y ) /(n 1) i
基本思想: 如果多个解释变量联合起来对被解释变量的影响不显著, “归于回 归的方差“ 比“归于剩余的方差”显著地小应是大概率事件。
(****)式也可看成是对（***）式施加如下约束而 得: 1 2 3 0
因此， 对（ **** ）式进行回归，就意味着原需 求函数满足零阶齐次性条件。
案例分析
对（***）式回归结果
案例分析
对（****）式回归结果
中国城镇居民对食品的消费需求模型: （****）式回归结果
（1）由地区经济规模决定的地方整体财力； （2）地区人口数量不同决定各地教育规模不同； （3）人民对教育质量的需求对以政府教育投入为代表的公共 财政的需求会有相当的影响。 （4）物价水平，影响地方财政对教育的支出。 （5）地方政府对教育投入的能力与意愿
Q AX
1
P1 2 P0 3
ln(Q ) 0 1 ln X 2 ln P1 3 ln P0
(***)
案例分析
考虑到零阶齐次性时
ln(Q ) 0 1 ln( X / P0 ) 2 ln( P1 / P0 )
(****)
2
其中：n-k-1为残差平方和的自由度，n-1为总 体平方和的自由度。
多元回归的拟合优度检验
可决系数与调整的可决系数
ESS TSS RSS R 1 2 2 TSS (Yi Y ) TSS y i
2 2 ˆ ( Y Y ) i 2 e i
2 e n 1 i n 1 2 R 1 1 1 (1 R ) 2 2 n k 1 yi n k 1 yi (n 1) 2
ˆ ~ N ( , 2 c ) i i ii
因此，可构造如下t统计量
ˆ i t i S ˆ
i
ˆ i i ~ t ( n k 1) e e c ii n k 1
变量的显著性的假设检验（t 检验）
H0 : j 0
H1 : j 0
（j=1,2,……k）
案例分析
可改写为：
（***）式回归结果
案例分析二
研究的目的要求
为了研究影响中国地方财政教育支出差异的主要原因，分析地 方财政教育支出增长的数量规律，预测中国地方财政教育支出 的增长趋势，需要建立计量经济模型。 研究范围：2011年31个省市区的数据为样本
理论分析：影响中国地方财政教育支出的主要的因素有：
调整的可决系数（adjusted coefficient of determination）
在样本容量一定的情况下，增加解释变量必 定使得自由度减少，所以调整的思路是:将残差平 方和与总离差平方和分别除以各自的自由度，以 剔除变量个数对拟合优度的影响:
RSS /( n k 1) R 1 TSS /( n 1)
如果 t 2 (n k -1) t * t 2 (n k -1) 就不拒绝 H 0 : j 0 ，而拒绝 H 1 : j 0 著。 如果 t* t 2 (n k -1)或t * t 2 (n k -1) 就拒绝 H 0 : j 0 而不拒绝 H1 : j 0
e e k AC ln ln n n n
这两准则均要求仅当所增加的解释变量能够 减少AIC值或AC值时才在原模型中增加该解释变量。
方程总体线性的显著性检验 （F 检验）
▼如果计算的F值大于临界值，则拒绝原假设，说明回
归模型有显著意义；即所有解释变量联合起来对 Y
确有显著影响。
▼如果计算的F值小于临界值，则不拒绝原假设，说明 回归模型没有显著意义；即所有解释变量联合起来
2 ( Y Y ) i
自由度
N－ 1
模型解释了的变差 剩余变差
变差来源
归于回归模型 归于剩余 总变差