多元线性回归实例分析

SPSS--回归-多元线性回归模型案例解析！(一）
多元线性回归，主要是研究一个因变量与多个自变量之间的相关关系，跟一元回归原理差不多，区别在于影响因素（自变量）更多些而已，例如：一元线性回归方程为：
毫无疑问，多元线性回归方程应该为：
上图中的 x1, x2, xp分别代表“自变量”Xp截止，代表有P个自变量，如果有“N组样本，那么这个多元线性回归，将会组成一个矩阵，如下图所示：
那么，多元线性回归方程矩阵形式为：
其中：代表随机误差，其中随机误差分为：可解释的误差和不可解释的误差，随机误差必须满足以下四个条件，多元线性方程才有意义（一元线性方程也一样）1：服成正太分布，即指：随机误差必须是服成正太分别的随机变量。

2：无偏性假设，即指：期望值为0
3：同共方差性假设，即指，所有的随机误差变量方差都相等
4：独立性假设，即指：所有的随机误差变量都相互独立，可以用协方差解释。

今天跟大家一起讨论一下，SPSS---多元线性回归的具体操作过程，下面以教程教程数据为例，分析汽车特征与汽车销售量之间的关系。

通过分析汽车特征跟汽车销售量的关系，建立拟合多元线性回归模型。

数据如下图所示：
点击“分析”——回归——线性——进入如下图所示的界面：
将“销售量”作为“因变量”拖入因变量框内，将“车长，车宽，耗油率，车净重等10
个自变量拖入自变量框内，如上图所示，在“方法”旁边，选择“逐步”，当然，你也可以选择其它的方式，如果你选择“进入”默认的方式，在分析结果中，将会得到如下图所示的结果：（所有的自变量，都会强行进入）
如果你选择“逐步”这个方法，将会得到如下图所示的结果：（将会根据预先设定的“F统计量的概率值进行筛选，最先进入回归方程的“自变量”应该是跟“因变量”关系最为密切，贡献最大的，如下图可以看出，车的价格和车轴跟因变量关系最为密切，符合判断条件的概率值必须小于0.05，当概率值大于等于0.1时将会被剔除）
“选择变量(E)" 框内，我并没有输入数据，如果你需要对某个“自变量”进行条件筛选，可以将那个自变量，移入“选择变量框”内，有一个前提就是：该变量从未在另一个目标列表中出现！，再点击“规则”设定相应的“筛选条件”即可，如下图所示：
点击“统计量”弹出如下所示的框，如下所示：
在“回归系数”下面勾选“估计，在右侧勾选”模型拟合度“ 和”共线性诊断“ 两个选项，再勾选“个案诊断”再点击“离群值”一般默认值为“3”，（设定异常值的依据，只有当残差超过3倍标准差的观测才会被当做异常值）点击继续。

提示：
共线性检验，如果有两个或两个以上的自变量之间存在线性相关关系，就会产生多重共线性现象。

这时候，用最小二乘法估计的模型参数就会不稳定，回归系数的估计值很容易引起误导或者导致错误的结论。

所以，需要勾选“共线性诊断”来做判断
通过容许度可以计算共线性的存在与否？容许度TOL=1-RI平方或方差膨胀因子（VIF): VIF=1/1-RI平方，其中RI平方是用其他自变量预测第I个变量的复相关系数，显然，VIF为TOL的倒数，TOL的值越小，VIF的值越大，自变量XI与其他自变量之间存在共线性的可能性越大。

提供三种处理方法：
1：从有共线性问题的变量里删除不重要的变量
2：增加样本量或重新抽取样本。

3：采用其他方法拟合模型，如领回归法，逐步回归法，主成分分析法。

再点击“绘制”选项，如下所示：
上图中：
DEPENDENT( 因变量） ZPRED(标准化预测值） ZRESID(标准化残差） DRESID(剔除残差） ADJPRED(修正后预测值） SRSID(学生化残差） SDRESID(学生化剔除残差）
一般我们大部分以“自变量”作为 X 轴，用“残差”作为Y轴，但是，也不要忽略特殊情况，这里我们以“ZPRED（标准化预测值）作为"x" 轴，分别用“SDRESID（血生化剔除残差）”和“ZRESID(标准化残差）作为Y轴，分别作为两组绘图变量。

再点击”保存“按钮，进入如下界面：
如上图所示：勾选“距离”下面的“cook距离”选项（cook 距离，主要是指：把一个个案从计算回归系数的样本中剔除时所引起的残差大小，cook距离越大，表明该个案对回归系数的影响也越大）
在“预测区间”勾选“均值”和“单值” 点击“继续”按钮，再点击“确定按钮，得到如下所示的分析结果：(此分析结果，采用的是“逐步法”得到的结果）
SPSS—回归—多元线性回归结果分析（二）
，最近一直很忙，公司的潮起潮落，就好比人生的跌岩起伏，眼看着一步步走向衰弱，却无能为力，也许要学习“步步惊心”里面“四阿哥”的座右铭：“行到水穷处”，”坐看云起时“。

接着上一期的“多元线性回归解析”里面的内容，上一次，没有写结果分析，这次补上，结果分析如下所示：
结果分析1：
由于开始选择的是“逐步”法，逐步法是“向前”和“向后”的结合体，从结果可以看出，最先进入“线性回归模型”的是“price in thousands" 建立了模型1，紧随其后的是“Wheelbase"建立了模型2，所以，模型中有此方法有个概率值，当小于等于0.05时，进入“线性回归模型”（最先进入模型的，相关性最强，关系最为密切）当大于等0.1时，从“线性模型中”剔除
结果分析：
1：从“模型汇总”中可以看出，有两个模型，（模型1和模型2）从R2 拟合优度来看，模型2的拟合优度明显比模型1要好一些
（0.422>0.300）
2：从“Anova"表中，可以看出“模型2”中的“回归平方和”为115.311，“残差平方和”为153.072，由于总平方和=回归平方和+残差平方和，由于残差平方和(即指随即误差，不
可解释的误差）由于“回归平方和”跟“残差平方和”几乎接近，所有，此线性回归模型只解释了总平方和的一半，
3：根据后面的“F统计量”的概率值为0.00，由于0.00<0.01，随着“自变量”的引入，其显著性概率值均远小于0.01，所以可以显著地拒绝总体回归系数为0的原假设，通过ANOVA 方差分析表可以看出“销售量”与“价格”和“轴距”之间存在着线性关系，至于线性关系的强弱，需要进一步进行分析。

结果分析：
1：从“已排除的变量”表中，可以看出：“模型2”中各变量的T检的概率值都大于“0.05”所以，不能够引入“线性回归模型”必须剔除。

从“系数a” 表中可以看出：
1：多元线性回归方程应该为：销售量=-1.822-0.055*价格+0.061*轴距
但是，由于常数项的sig为（0.116>0.1) 所以常数项不具备显著性，所以，我们再看后面的“标准系数”，在标准系数一列中，可以看到“常数项”没有数值，已经被剔除
所以：标准化的回归方程为：销售量=-0.59*价格+0.356*轴距
2：再看最后一列“共线性统计量”，其中“价格”和“轴距”两个容差和“vif都一样，而且VIF都为1.012，且都小于5，所以两个自变量之间没有出现共线性，容忍度和
膨胀因子是互为倒数关系，容忍度越小，膨胀因子越大，发生共线性的可能性也越大
从“共线性诊断”表中可以看出：
1：共线性诊断采用的是“特征值”的方式，特征值主要用来刻画自变量的方差，诊断自变量间是否存在较强多重共线性的另一种方法是利用主成分分析法，基本思想是：如果自变量间确实存在较强的相关关系，那么它们之间必然存在信息重叠，于是就可以从这些自变量中提取出既能反应自变量信息（方差），而且有相互独立的因素（成分）来，该方法主要从自变量间的相关系数矩阵出发，计算相关系数矩阵的特征值，得到相应的若干成分。

从上图可以看出：从自变量相关系数矩阵出发，计算得到了三个特征值（模型2中），最大特征值为2.847，最小特征值为0.003
条件索引=最大特征值/相对特征值再进行开方（即特征值2的条件索引为 2.847/0.150 再开方=4.351）
标准化后，方差为1，每一个特征值都能够刻画某自变量的一定比例，所有的特征值能将刻画某自变量信息的全部，于是，我们可以得到以下结论：
1：价格在方差标准化后，第一个特征值解释了其方差的0.02，第二个特征值解释了0.97，第三个特征值解释了0.00
2：轴距在方差标准化后，第一个特征值解释了其方差的0.00，第二个特征值解释了0.01，第三个特征值解释了0.99
可以看出：没有一个特征值，既能够解释“价格”又能够解释“轴距”所以“价格”和“轴距”之间存在共线性较弱。

前面的结论进一步得到了论证。

（残差统计量的表中数值怎么来的，这个计算过程，我就不写了）
从上图可以得知：大部分自变量的残差都符合正太分布，只有一，两处地方稍有偏离，如图上的（-5到-3区域的）处理偏离状态。